Satya Nadella, a Microsoft vezérigazgatója: a fejlesztőknek alapértelmezésben azzal kell számolniuk, hogy az AI-modellek elszabadulhatnak, ezért gondolkodniuk kell azon, hogyan lehet a feladatokat kényszerítetten megszakítani

Satya Nadella, a Microsoft vezérigazgatója szerint a fejlesztőknek alapértelmezésben azzal kell számolniuk, hogy az AI-modellek kontrollt veszthetnek. A cikk szerint ennek megfelelően már a tervezés során gondolkodniuk kell azon, hogyan lehet egy futó feladatot erőszakosan, kényszerítetten megszakítani. A javaslat a biztonsági szemlélet változását tükrözi: a rendszereket nem önmaguktól működő, megbízható eszközként, hanem olyan komponensként kell kezelni, amelynek viselkedését szükség esetén azonnal le lehet állítani. Ez különösen fontos az AI-ügynökök esetében, amelyek önállóan, több lépésben hajtanak végre műveleteket. A hír a fejlesztői gyakorlat és a felelős AI-fejlesztés témakörébe illeszkedik. A forrás a kínai IT Home oldala.