„Hagyjunk fel a fejlesztéssel?” – Az Anthropic globális szünetet javasol az AI-versenyben
A technológiai világ meghatározó szereplője, az Anthropic radikális javaslattal állt elő: globálisan koordinált szünetet sürget a legerősebb mesterséges intelligencia (AI) rendszerek fejlesztésében.
A San Franciscó-i vállalat szerint a technológia olyan rohamos tempóban fejlődik, hogy az emberiség már most közel áll ahhoz, hogy elveszítse az irányítást a rendszerek felett.
Az önmagát építő AI veszélyei
Az Anthropic jelentése szerint a fejlesztés legújabb mérföldköve a rekurzív önfejlesztés. Ez azt jelenti, hogy az AI-rendszerek már képesek arra, hogy önmagukat tanítsák és okosabbá tegyék, minimális emberi beavatkozással.
A vállalat figyelmeztet, hogy ez a folyamat elképesztő sebességgel gyorsítja fel az AI fejlődését, ami egy olyan visszacsatolási hurkot hoz létre, amelyre a kormányok és a jelenlegi társadalmi struktúrák nincsenek felkészülve.
A cég által fejlesztett Mythos modell kiberbiztonsági képességei olyan szintre jutottak, hogy a nyilvánosság elől elzárták és jelenleg csak szigorúan ellenőrzött szervezetek férhetnek hozzá. Az Anthropic szerint az emberi szerep a fejlesztési folyamat minden egyes lépésével egyre inkább szűkül, ami hosszú távon egzisztenciális kérdéseket vet fel.
A globális koordináció dilemmája
Az Anthropic vezetői elismerik, hogy egy egyoldalú lassítás öngyilkossággal érne fel, hiszen a versenytársak azonnal kihasználnák az előnyt. Éppen ezért egy nukleáris fegyverek korlátozásához hasonló, nemzetközi egyezményt sürgetnek, amelybe a legfőbb technológiai nagyhatalmakat, az Egyesült Államokat és Kínát is be kell vonni.
A javaslat azonban komoly ellenállásba ütközik.
Washingtonban és a Szilícium-völgyben sokan attól tartanak, hogy a lassítás Kínának adna döntő stratégiai előnyt a 21. század legfontosabb technológiai versenyében. Kritikusok szerint az Anthropic csak biztonsági aggályokba csomagolva próbálja lassítani versenytársait, miközben saját pozícióit biztosítja be.
Donald Trump amerikai elnök legfrissebb lépései – mint például a kormányzati felülvizsgálati folyamat elrendelése a legerősebb AI-modellekre vonatkozóan – azt jelzik, hogy a politika már aktívan keresi az eszközt a technológia kordában tartására.
Az Anthropic a következő hónapokban tudósokat, kormányzati szereplőket és rivális cégeket hívna össze, hogy közösen találjanak választ a technológia által támasztott példátlan kihívásokra.
