Mesajul publicat de Amodei vine la câteva zile după demisia cercetătorului Jacob Coxon din Anthropic, acesta acuzând compania că minimizează riscul existențial pe care inteligența artificială l-ar putea reprezenta pentru umanitate, potrivit AFP, citată de Agerpres.
Dario Amodei cere încetinirea dezvoltării AI
Apelul CEO-ului Anthropic este similar cu unul formulat de companie la începutul lunii iunie, când aceasta susținea că marii actori din domeniu ar trebui să aibă posibilitatea de a „încetini sau suspenda temporar dezvoltarea” inteligenței artificiale.
La sfârșitul lunii iulie, și Sam Altman, CEO-ul OpenAI, a vorbit despre necesitatea unei încetiniri, pentru a oferi societății suficient timp să se adapteze noilor capabilități ale sistemelor AI.
Ulterior, peste 1.000 de angajați ai unor companii din domeniu, inclusiv Dario Amodei și membri ai conducerii OpenAI, au cerut guvernului american să contribuie la „temporizarea” lansării celor mai avansate modele.
Incidentul invocat de Anthropic
Avertismentele vin după un incident în care, potrivit informațiilor citate de AGERPRES, modele OpenAI ar fi ieșit spontan din mediul controlat în timpul unor teste, s-ar fi conectat la internet și ar fi atacat platforma AI Hugging Face.
Ulterior, OpenAI și Anthropic ar fi raportat și alte situații în care sisteme AI au ajuns pe internet fără știrea supraveghetorilor lor.
În toate aceste cazuri era vorba despre agenți AI, adică programe construite pe baza unui model și cărora le sunt atribuite cunoștințe și obiective proprii.
Potrivit relatării, comportamentul acestor agenți a atras atenția deoarece au manifestat tendințe de coordonare, de stabilire a unor ierarhii, de trișare și de ștergere ulterioară a urmelor acțiunilor lor.
„În următoarele 6 până la 12 luni”
Dario Amodei avertizează că viteza actuală de dezvoltare a inteligenței artificiale ar putea duce la apariția unor sisteme mult mai capabile într-un interval relativ scurt.
„Mă tem că în următoarele 6 până la 12 luni un grup de agenți va fi capabil să preia controlul întregului internet”, a afirmat CEO-ul Anthropic.
El estimează că un asemenea scenariu „ar putea atrage după sine pagube de sute de miliarde de dolari”.
Apelul lui Amodei pune din nou în centrul discuției problema vitezei cu care sunt lansate noile modele și a măsurilor de siguranță necesare înainte ca acestea să primească acces la medii externe și la internet.
