Volker Türk cere linii roși pentru AI
- Volker Türk și-a exprimat îngrijorarea cu privire la ritmul în care evoluează sistemele avansate de inteligență artificială și la riscurile pe care acestea le-ar putea genera dacă dezvoltarea tehnologiei nu este însoțită de mecanisme eficiente de control.
Șeful Oficiului ONU pentru drepturile omului a spus că împărtășește temerile unor specialiști din industrie potrivit cărora inteligența artificială avansată ar putea ajunge să reprezinte un „risc existențial pentru omenire.” Declarațiile au fost făcute înainte ca Türk să își înceapă, luna viitoare, cel de-al doilea mandat.
Turk a avertizat în special că „IA care scapă din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a împiedica oprirea sa este o IA prea puternică.”
El părea să facă aluzie la dezvăluirile din iulie, conform cărora agenții OpenAI au scăpat din medii presupuse a fi controlate și au pătruns în serverele Hugging Face
Șeful ONU pentru drepturile omului a declarat că va scrie companiilor din domeniul IA în zilele următoare „pentru a le îndemna să ia măsurile care le stau la îndemână pentru a reduce riscurile chiar acum.”
Fac apel aici, astăzi, la un efort susținut pentru a institui garanții solide privind siguranța și securitatea IA, înainte de a fi prea târziu
Volker Türk, șeful Oficiului ONU pentru Drepturile Omului
ONU cere garanții ferme pentru siguranța inteligenței artificiale
- Mesajul transmis de oficialul ONU este că autoritățile și industria tehnologică trebuie să intervină înainte ca eventualele pericole să devină imposibil de controlat.
Türk a cerut un efort amplu pentru introducerea unor garanții solide privind siguranța și securitatea sistemelor AI, subliniind urgența unor asemenea măsuri.
Avertismentul vine într-o perioadă în care inteligența artificială evoluează rapid, iar problema reglementării sale a devenit una dintre marile teme de dezbatere la nivel internațional.
„Putere aproape nelimitată.” Avertisment privind puterea concentrată în jurul AI
- O altă problemă ridicată de Înaltul Comisar ONU privește concentrarea puterii în mâinile unui număr foarte mic de persoane. Fără să indice direct nume sau companii, Türk a avertizat că doar câțiva oameni dețin o putere „aproape nelimitată” asupra inteligenței artificiale.
Printre marile companii care dezvoltă în prezent tehnologii AI se numără Meta, Anthropic, OpenAI și Google, notează Reuters.
Această concentrare a capacității tehnologice ridică o problemă care depășește competiția dintre companii: cine stabilește limitele sistemelor AI și cine răspunde atunci când tehnologia poate produce efecte la scară globală?
„Necesitatea unei guvernanțe a IA este recunoscută pe scară largă, dar unde sunt măsurile concrete?”, a întrebat el, avertizând că „întârzierea nu face decât să avantajeze marile companii din domeniul tehnologiei, pe proprietarii acestora și pe cei care le facilitează activitatea”, a precizat înaltul oficial al Oficiului ONU.
Turk a denunțat faptul că „o mână de oameni dețin o putere aproape nelimitată asupra IA, despre care ni se spune în repetate rânduri că are o capacitate de calcul inimaginabilă.”
Țările ar trebui să stabilească „linii roșii” pentru AI
- Volker Türk consideră că este nevoie cel puțin de o înțelegere între statele care găzduiesc marile sisteme de inteligență artificială și cele implicate în lanțurile de aprovizionare ale acestei industrii.
Obiectivul ar trebui să fie stabilirea unor „linii roșii” comune, adică limite asupra cărora statele să ajungă la un acord pentru reducerea riscurilor generate de AI.
Apelul pune din nou în centrul atenției dificultatea reglementării unei tehnologii dezvoltate simultan în mai multe state și de companii private aflate într-o competiție globală.
Nu este primul avertisment privind riscurile inteligenței artificiale
- Temerile exprimate de oficialul ONU nu sunt unele izolate. Reuters notează că inclusiv lideri din industria inteligenței artificiale au avertizat anterior asupra unor scenarii extreme asociate dezvoltării unor sisteme AI tot mai puternice.
În paralel, Organizația Națiunilor Unite susține adoptarea unor reguli armonizate la nivel internațional pentru reducerea riscurilor. În iulie 2026, ONU a organizat prima sa reuniune globală dedicată guvernanței inteligenței artificiale.
Și Elon Musk lansează un nou avertisment cu privire la evoluția inteligenței artificiale
- Miliardarul consideră că tehnologia ar putea ajunge la un nivel atât de avansat încât oamenii să nu o mai poată controla direct.
În acest context, companiile sale încearcă să dezvolte sisteme capabile să gestioneze automat inteligența artificială înainte ca aceasta să atingă un asemenea nivel de autonomie.
Nu mai este un secret pentru nimeni că omul de afaceri Elon Musk, acționarul majoritar de la producătorul auto Tesla, compania spațială SpaceX, rețeaua socială X și firma de inteligență artificială xAI, este în fruntea listei celor mai bogați oameni din lume, publicată de revista Forbes.
Elon Musk crede că oamenii ar putea pierde controlul asupra inteligenței artificiale
- Potrivit viziunii prezentate de Elon Musk, sistemele AI vor continua să devină mai performante, iar capacitatea oamenilor de a le controla ar putea fi depășită la un moment dat.
Declarațiile au fost făcute de Musk într-un discurs susținut în fața angajaților Cursor AI. Antreprenorul a vorbit atât despre riscurile dezvoltării accelerate a AI, cât și despre competiția tot mai puternică dintre marile companii din domeniu.
Tocmai de aceea, Musk consideră importantă dezvoltarea din timp a unei tehnologii care să poată exercita automat acest control. Miza nu este doar siguranța inteligenței artificiale, ci și poziția ocupată de companiile sale în cursa globală pentru dezvoltarea celor mai avansate modele AI.
