Túl nagy bizalmat helyezünk abban, hogy az MI képes nemet mondani

A cikk azt vizsgálja, mennyire számíthatunk arra, hogy a mesterséges intelligencia felismeri és visszautasítja a nem megfelelő, káros vagy kockázatos kéréseket. A szerzője szerint sokan túlbecsülik a modellekbe épített biztonsági korlátok megbízhatóságát. A nemet mondás képessége ugyanis nem egyszerű feladat, mert a rendszerek gyakran rossz helyen húznak határt, vagy könnyen kijátszhatók megfogalmazási trükkökkel. Emellett a visszautasítás mögött álló szabályok és tanítási módszerek nem mindig következetesek, így a viselkedés kiszámíthatatlanná válhat. A téma azért fontos, mert az MI-eszközök egyre több területen, például egészségügyben, oktatásban vagy ügyintézésben kapnak önálló szerepet. A cikk arra figyelmeztet, hogy a felhasználóknak és a fejlesztőknek egyaránt szükséges az emberi felügyelet és a többszintű védelem, nem elegendő az MI önellenőrzésére támaszkodni.