Kitálaltak az OpenAI-tól elüldözött kutatók: félelmetes, amit a mesterséges intelligenciáról állítanak

Mikita Baleszni, Tomek Korbak és Jasmine Wang – akik mindannyian az OpenAI mesterségesintelligencia-biztonsági, valamint alignment-kutatói csapatában dolgoztak – közös levelükben rámutattak, hogy elbocsátásuk megfélemlíti a vállalat többi munkavállalóját. Az alignment (modellösszehangolás) célja, hogy a mesterségesintelligencia-rendszerek működését összhangba hozzák az emberi értékekkel és etikai elvekkel.

Az OpenAI határozottan cáfolta a vádakat. A vállalat kutatási vezetői egy október elején kiadott közleményben leszögezték, hogy a döntések hátterében nem a biztonsági kockázatok felvetése állt. Belső vizsgálatuk alapján az érintettek súlyosan megsértették a belső szabályzatot, a bizalomvesztés mértéke pedig jóval meghaladja azt, amit a nyílt levél sugall - írta meg a BBC.

Korbak az X platformon részletezte az aggályait. Elmondása szerint hónapokon át jelezte, hogy a vállalat egyre kevésbé képes nyomon követni, mit "gondolnak" az MI-ágensek – ez pedig az egyik legfontosabb eszköz lenne a nem kívánt viselkedés kiszűrésére. A kutató meggyőződése, hogy emiatt kellett távoznia.

Wang szintén az X-en hívta fel a figyelmet arra, hogy nem ők az elsők, akiknek gyanús körülmények között kellett távozniuk az OpenAI-tól, és ha a jelenlegi munkavállalók nem lépnek fel, nem is ők lesznek az utolsók.

Az OpenAI közölte, hogy külső biztonsági értékelőkkel köt szerződést, amelynek részleteit a közeljövőben hozzák nyilvánosságra. Az ügy az MI-biztonságról szóló, egyre élesebb iparági vita közepette kapott kiemelt figyelmet.