Budapest
2024 november 29., péntek
image

Reuters: Egy, az emberiséget fenyegető új fejlesztésre figyelmeztető levél előzte meg az OpenAI-vezér kirúgását

A dolgozók egy csoportja figyelmeztető levélben fordult a ChatGPT-t kifejlesztő OpenAI igazgatótanácsához egy forradalmi áttöréssel kecsegtető, új fejlesztés kapcsán, ez volt a közvetlen előzménye az alapító-vezérigazgató Sam Altman kirúgásának, vagy legalábbis fontos tényező volt a vele szemben halmozódó fenntartásoknak – írja a Reuters a cégen belüli forrásokra hivatkozva. Az OpenAI a hírügynökségnek nem erősítette meg se a levél, se a szóban forgó projekt létezését, ám a Reuters értesülései szerint a cégvezetés a munkavállaóknak beszámoltak ezekről egy belső üzenetben.

A vállalat dolgozóinak egy része úgy véli, hogy a Q* nevű projekt (angolul Q-Star-nak kell ejteni) áttörést hozhat az igazi, általános mesterséges intelligencia (artificial general intelligence, AGI) kutatásában. A cégnél úgy határozzák meg az AGI-t, mint önálló rendszer, amely a legtöbb területen képes felülmúlni az embereket.

A Q* keretében kifejlesztett modell képessé vált önállóan matematikai feladványok megoldására. Ugyan csak általános iskolás szinten, azonban a matematikai feladványok megoldása sokkal bonyolultabb, mint szöveges válaszokat adni feltett kérdésekre. Utóbbihoz a jelenlegi mesterséges intelligenciák (mint a ChatGPT) statisztikai módszereket használnak, adatbázisokból dolgoznak, ráadásul az élőnyelvi kérdésekre adott válaszoknak nem kell precízeknek vagy hibátlanoknak lenniük ahhoz, hogy egy ember elfogadhatónak tekintse őket. Mindez nem igaz a matematikai problémákra.

Altman kirúgása mindenkit meglepetésként ért, és a magyarázat is minimum homályos volt. Az igazgatótanács annyit írt, hogy nem megfelelő kommunikációt folytatott, nem volt elég őszinte, illetve szerintük alkalmatlan a társaság vezetésére. Felröppentek pletykák arról, hogy a valódi ok mi lehetett: egy cégen belüli puccsról volt szó, amely mögött az a vita is ott volt, hogy Altman inkább a gyors fejlődést és pénzszerzést pártolta volna, kevésbé törődve a mesterséges intelligencia veszélyeivel, a riválisai viszont óvatosabb fejlesztéseket szerettek volna.

Ennek hátterét részletesen itt mutattuk be:

A mesterséges intelligencia legsikeresebb fejlesztőcégénél hamar rájöttek, hogy Altmant kirúgni rossz ötlet volt: a cég 770 dolgozójából majdnem mindenki kilátásba helyezte a saját felmondását, azt követelte, hogy vegyék vissza Altmant, az őt eltávolító igazgatótanács pedig mondjon le.

Altmant ezt követően visszavették, az igazgatótanácsot átalakítják.