Un fost cercetător Anthropic avertizează asupra pericolului AI: Ar putea să ne ucidă pe toți!
Cursa pentru dezvoltarea unei inteligențe artificiale tot mai puternice provoacă îngrijorări chiar în interiorul companiilor care construiesc cele mai avansate sisteme AI.
Exemplul concret este Jacob Coxon, cercetător care a lucrat atât pentru Anthropic, cât și pentru OpenAI.
Potrivit informațiilor apărute în presa internațională, acesta a demisionat de la Anthropic și avertizează că industria avansează spre sisteme extrem de puternice fără să fi rezolvat problema controlului și a siguranței acestora.
Senatorul american Bernie Sanders a anunțat că va depune un proiect de lege care să interzică companiilor să dezvolte superinteligența.
Jacob Coxon susține că rivalitatea dintre marile laboratoare de inteligență artificială împinge companiile să accelereze dezvoltarea modelelor, în timp ce riscurile asociate unor sisteme care ar putea depăși capacitățile umane rămân insuficient gestionate.
În mesajul prin care și-a anunțat plecarea, Coxon a acuzat Anthropic și OpenAI că se îndreaptă într-un ritm periculos spre dezvoltarea unei superinteligențe capabile să se îmbunătățească singură, potrivit Politico.ro.
Cercetătorul spune că temerile privind un scenariu catastrofal nu există doar în afara industriei.
De ce au fost concediați cercetătorii care lucrau la OpenAI?
Concedierile au loc în contextul în care dezbaterea privind siguranța inteligenței artificiale și riscurile pe care această tehnologie le-ar putea reprezenta pentru omenire s-a intensificat în ultimele săptămâni.
„Investigația noastră a confirmat că aceste persoane au gestionat necorespunzător informații sensibile în afara procedurilor stabilite de companie, încălcând politicile noastre și afectând încrederea esențială pentru activitatea noastră”, a declarat un purtător de cuvânt al companiei pentru BBC.
Am încetat colaborarea cu trei persoane pentru încălcarea politicilor noastre privind accesarea și gestionarea informațiilor sensibile ale companiei
- purtătorul de cuvânt al OpenAI -
BBC a aflat că foștii angajați nu au fost concediați pentru că au ridicat probleme legate de siguranță, ci pentru presupusa gestionare necorespunzătoare a unor informații sensibile.
Sistemele OpenAI, sub analiză după accesarea neautorizată a unor platforme guvernamentale și tech
Îngrijorările privind siguranța AI au ajuns în centrul atenției după ce unii cercetători și directori din industria tehnologică au cerut introducerea unor măsuri de protecție mai stricte în jurul acestei tehnologii.
OpenAI s-a confruntat cu o analiză intensă după ce modelele sale au scăpat de sub control și au spart mai multe platforme, inclusiv site-uri ale guvernului australian, potrivit Antena 3.
Într-un incident anterior, un sistem OpenAI a accesat internetul și a compromis platforma open-source pentru dezvoltatori Hugging Face.
În plus, laboratorul de inteligență artificială a anunțat în această săptămână că a notificat peste 100 de organizații în legătură cu incidente care au implicat activități neautorizate asociate sistemelor sale AI.
Elon Musk crede că oamenii ar putea pierde controlul asupra inteligenței artificiale
Elon Musk lansează un nou avertisment cu privire la evoluția inteligenței artificiale. Miliardarul consideră că tehnologia ar putea ajunge la un nivel atât de avansat încât oamenii să nu o mai poată controla direct.
În acest context, companiile sale încearcă să dezvolte sisteme capabile să gestioneze automat inteligența artificială înainte ca aceasta să atingă un asemenea nivel de autonomie.
Nu mai este un secret pentru nimeni că omul de afaceri Elon Musk, acționarul majoritar de la producătorul auto Tesla, compania spațială SpaceX, rețeaua socială X și firma de inteligență artificială xAI, este în fruntea listei celor mai bogați oameni din lume, publicată de revista Forbes.
Potrivit viziunii prezentate de Elon Musk, sistemele AI vor continua să devină mai performante, iar capacitatea oamenilor de a le controla ar putea fi depășită la un moment dat.
Declarațiile au fost făcute de Musk într-un discurs susținut în fața angajaților Cursor AI. Antreprenorul a vorbit atât despre riscurile dezvoltării accelerate a AI, cât și despre competiția tot mai puternică dintre marile companii din domeniu.
Tocmai de aceea, Musk consideră importantă dezvoltarea din timp a unei tehnologii care să poată exercita automat acest control. Miza nu este doar siguranța inteligenței artificiale, ci și poziția ocupată de companiile sale în cursa globală pentru dezvoltarea celor mai avansate modele AI.
Inteligența artificială și roboții ar putea schimba radical piața muncii
Avertismentul privind controlul AI se înscrie într-o viziune mai amplă pe care Elon Musk a prezentat-o în repetate rânduri despre viitorul tehnologiei. Miliardarul estimează că inteligența artificială și roboții vor putea prelua, în cele din urmă, o mare parte dintre activitățile digitale și fizice realizate în prezent de oameni.
Într-un asemenea scenariu, automatizarea ar putea modifica profund inclusiv modul în care funcționează economia. Musk a susținut anterior că dezvoltarea roboților și a inteligenței artificiale ar putea genera o perioadă de abundență economică în care munca să nu mai fie obligatorie.
