Cât de importantă este apărarea împotriva riscurilor AI pentru marii jucători din domeniu
Şi Chris Lehane, directorul de politici globale al producătorului ChatGPT, a afirmat, citat de Bloomberg News şi Reuters, că OpenAI colaborează cu rivalii Anthropic şi Google DeepMind, compania deţinută de Alphabet, în domeniul siguranţei inteligenţei artificiale.
Ideea a pornit de la o propunere a lui Demis Hassabis - CEO al Google DeepMind înainte de a deveni preşedintele acesteia la începutul lunii august - care a sugerat înfiinţarea unei entităţi similare cu Autoritatea de reglementare a industriei financiare din SUA (FINRA). FINRA a fost înfiinţată în baza legislaţiei federale şi funcţionează sub supravegherea autorităţii de reglementare a pieţei din SUA, SEC.
De câteva luni, principalii actori din domeniul AI solicită guvernului american să reglementeze sectorul şi să supravegheze siguranţa AI. La începutul lunii august, administraţia Trump a implementat un proces de evaluare a noilor modele de AI, însă participarea este voluntară, iar mecanismul specific nu a fost dezvăluit.
În urma apelului lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, de a încetini dezvoltarea AI, preşedintele american Donald Trump şi mai mulţi membri ai partidului de guvernământ şi-au reiterat dorinţa de a nu frâna acest sector, invocând oficial temerile că astfel de măsuri ar conferi un avantaj competitiv Chinei.
Președintele Donald Trump nu crede în riscurile asociate proliferării AI-ului
Înfiinţarea unui organism propriu de supraveghere de către industrie ar necesita, probabil, adoptarea unei legislaţii, în special pentru a evita acuzaţiile de înţelegere sau de încălcare a normelor antitrust în cadrul industriei AI.
Într-un mesaj publicat online la jumătatea lunii iulie, Demis Hassabis a propus o structură finanţată de companiile din sector, cu un consiliu format din experţi independenţi şi reprezentanţi ai ecosistemului open-source. Odată ce organizaţia ar deveni funcţională, principalele companii de AI ar fi obligate să îşi supună noile modele unei evaluări - punând un accent deosebit pe siguranţă - înainte de a le lansa pe piaţă.
Potrivit lui Demis Hassabis, acest nou organism ar putea de asemenea să coordoneze o încetinire a dezvoltării AI, în cazul în care înţelegerea riscurilor nu ar ţine pasul cu progresele inteligenţei artificiale. Administraţia Trump a stabilit la începutul lunii august un proces pentru a evalua noile modele de AI, dar participarea este voluntară, iar mecanismul său nu a fost dezvăluit.
În urma apelului la încetinirea procesului de dezvoltare a inteligenţei artificiale ce a fost lansat sâmbătă de CEO-ul Anthropic, Dario Amodei, Donald Trump şi mai mulţi membri ai majorităţii prezidenţiale şi-au reiterat dorinţa de a nu restricţiona sectorul, oficial de teamă că Beijingul ar putea profita pentru a prelua iniţiativa în acest domeniu.
În mesajul său postat online la mijlocul lunii iulie, Demis Hassabis a prevăzut o structură finanţată de companii din sector, al cărei consiliu de administraţie ar include experţi independenţi, precum şi reprezentanţi ai ecosistemului deschis. Aceasta include dezvoltatori de inteligenţă artificială deschisă, adică o inteligenţă artificială accesibilă gratuit, descărcabilă şi modificabilă, spre deosebire de modelele închise, cum ar fi cele de la OpenAI sau Anthropic.
Odată ce organizaţia va fi înfiinţată, cele mai avansate companii de inteligenţă artificială vor fi obligate să îşi prezinte noile modele spre analiză, concentrându-se în special pe securitate, înainte de a putea fi comercializate.
