ChatGPT / OpenAI
Küzdelem az ellenséges desztilláció ellen
Az OpenAI cikke az úgynevezett ellenséges desztilláció (adversarial distillation) jelenségével foglalkozik. Ennek lényege, hogy egy külső fejlesztő nagy nyelvi modellek kimeneteit gyűjti össze, és ezekkel tanítja be a saját modelljét, így a drága fejlesztés eredményeit lemásolhatja. Az ilyen eljárások sértik a szolgáltatók felhasználási feltételeit és szellemi tulajdonát. Emellett biztonsági kockázatot is jelenthetnek, mert a modellek védelmi mechanizmusai így könnyebben kikerülhetők. A cikk a visszaélések felismerésére és megelőzésére irányuló lehetséges megoldásokkal foglalkozik. A téma az AI-iparág versenyképessége és a modellek védelme szempontjából is egyre fontosabb.
← Vissza a főoldalra
