Acțiunea a fost depusă joi, 12 noiembrie, la Tribunalul Superior din San Francisco, California, și vizează OpenAI, Google, Meta, Anthropic și SpaceXSI, divizia de inteligență artificială a SpaceX, anunță Reuters. Procesul a fost inițiat de patru organizații nonprofit: Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI. Acestea solicită instanței să intervină înainte ca dezvoltarea unor modele AI tot mai puternice să provoace consecințe ireversibile.
Organizațiile avertizează că inteligența artificială ar putea scăpa de sub control
Reclamanții susțin că inclusiv sistemele AI disponibile în prezent au demonstrat comportamente pe care dezvoltatorii nu le-au anticipat. În documentele prezentate instanței sunt invocate incidente în care agenți AI ar fi pătruns neautorizat în sisteme informatice private și baze de date guvernamentale sau ar fi executat acțiuni dăunătoare fără intervenție umană directă. Organizațiile consideră că dezvoltarea unor modele mai avansate ar putea amplifica aceste riscuri, inclusiv prin facilitarea producerii armelor biologice și desfășurarea unor atacuri cibernetice de amploare.
Google este una dintre cele cinci dintre cele mai mari companii de inteligență artificială date în judecată. Imagine ilustrativă. Foto: Julian Stratenschulte/dpa
Afirmațiile reprezintă argumentele reclamanților și nu au fost stabilite ca fapte de instanță. Robert Weissman, copreședintele Public Citizen, acuză conducerea companiilor AI că ignoră avertismentele privind siguranța publică. „Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat acesta.
Ce ar însemna oprirea dezvoltării modelelor AI
Organizațiile invocă legislația Californiei privind practicile comerciale neloiale și cer interzicerea continuării dezvoltării celor mai periculoase sisteme AI până când acestea vor putea fi controlate în condiții de siguranță. Procesul vizează inclusiv modelele de ultimă generație dezvoltate de companiile din spatele ChatGPT, Gemini și Claude.
Matthew Platkin, fost procuror general al statului New Jersey și avocatul care a depus acțiunea, susține că firmele nu ar trebui să poată dezvolta și lansa produse despre care știu că ar putea provoca daune catastrofale.
„Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”, a declarat Platkin. Reclamanții citează inclusiv avertismente făcute anterior de lideri din industrie, printre care directorul Anthropic, Dario Amodei, și Elon Musk.
Companiile AI nu au răspuns acuzațiilor
Potrivit Reuters, Meta a refuzat să comenteze procesul, iar celelalte companii vizate nu au răspuns imediat solicitărilor de reacție. Acțiunea vine într-un moment agitat, în care dezvoltatorii concurează pentru lansarea unor sisteme AI capabile să îndeplinească sarcini tot mai complexe, inclusiv fără supraveghere permanentă. Procesul ridică și o problemă juridică: dacă legislația existentă privind protecția consumatorilor poate fi folosită pentru a opri preventiv dezvoltarea unei tehnologii, înainte ca riscurile invocate să se materializeze. Instanța nu a pronunțat încă o decizie privind solicitarea de suspendare.