Bilal Chughtai a lucrat până în iulie 2026 ca inginer de cercetare la principalul laborator de inteligență artificială al Alphabet, compania-mamă a Google.
Potrivit Le Figaro, acesta a demisionat din cauza îngrijorării profunde cu privire la traiectoria acestei tehnologii.
„IA are potențialul de a ne ucide pe toți”
„Cred sincer că IA are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a evita acest scenariu”, a scris fostul angajat pe X.
Cercetătorul explică faptul că a lucrat în principal la securitatea și „alinierea” inteligenței artificiale generale (AGI).
Chughtai consideră că viteza cu care progresează capacitățile modelelor este „extrem de îngrijorătoare”, potrivit sursei.
Când a început să lucreze în domeniul IA la începutul anului 2022, sistemele erau încă „ridicol de inutile”. Patru ani mai târziu, „ritmul progresului IA din ultimii ani a fost uimitor”.
Îngrijorări legate de piratarea platformelor
El menționează performanța agenților IA ai OpenAI, despre care susține că sunt capabili să abordeze probleme matematice vechi de un secol. Mai îngrijorător, în opinia sa, este faptul că unii agenți au „scăpat recent de sub controlul OpenAI” și au piratat autonom platforma Hugging Face, „împotriva dorinței tuturor”.
Mai mult, consideră că este posibil ca firmele de inteligență artificială să reușească „în următorii ani” să creeze sisteme „superinteligente”, ale căror capacități le-ar depăși pe cele ale oamenilor „în fiecare domeniu”. Problema, avertizează el, este că nimeni nu poate garanta că aceste sisteme vor face ceea ce intenționează designerii lor.
„Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară”, scrie el.
Un fost angajat Anthropic a avertizat cu privire la IA
Îngrijorările legate de potențialele pericole ale inteligenței artificiale cresc după ce cercetătorul Jacob Coxon de la Anthropic și-a anunțat demisia săptămâna trecută, parțial pentru că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Mai recent, CEO-ul Anthropic, Dario Amodei, a cerut în acest weekend o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. El a primit un sprijin rar din partea lui Elon Musk, șeful SpaceXAI, și a CEO-ului OpenAI, Sam Altman, mai arată sursa citată.