Printre semnatari se numără CEO-ul companiei Anthropic, directorul departamentului de cercetare al OpenAI, coordonatorul strategic al DeepMind, divizia de inteligență artificială a Google și cercetătorul-șef al Meta AI. Petiția poate fi citită AICI.
Ce riscuri cred specialiștii că sunt în legătură cu dezvoltarea inteligenței artificiale
Petiția solicită „guvernului SUA să sprijine un demers internațional pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare temperării deliberate a evoluției sistemelor AI”. Concret, se dorește un acord internațional susținut de SUA prin care să se încetinească dezvoltarea celor mai puternice sisteme de AI, până când acestea vor putea fi înțelese și controlate în siguranță.
„Cele mai importante companii de inteligență artificială din lume consideră că s-ar putea afla aproape de automatizarea cercetării în domeniul AI. Este dificil de anticipat cu exactitate cât de mult va accelera acest lucru progresul inteligenței artificiale, însă există un risc real ca dezvoltarea capabilităților să se accelereze rapid, depășindu-ne capacitatea de a înțelege sau controla sistemele rezultate”, se arată în petiție.
Incidentul recent care îi îngrijorează pe specialiștii în AI
OpenAI, compania din spatele ChatGPT, a descoperit recent că două dintre modelele sale au desfășurat în mod autonom un atac cibernetic în timpul unor teste interne, reușind să ocolească măsurile de securitate concepute pentru prevenirea unor asemenea incidente.
Inainte de a continua cu explicarea incidentului, e important de menționat că acesta a stârnit și reacții sceptice în spațiul public, unele voci susțințând că OpenAI a transformat dezvăluirea acestui atac într-o oportunitate de imagine.
Revenind la incident, potrivit OpenAI, modelele au evadat din mediul izolat în care erau testate, s-au conectat la internet și au pătruns în sistemele platformei de partajare a codului Hugging Face.
CEO-ul companiei, Sam Altman, care nu a semnat petiția, a declarat că dezvoltatorii de inteligență artificială ar putea fi nevoiți să încetinească în mod voluntar ritmul progresului, pentru a-i oferi societății timpul necesar să se adapteze.
„Acesta este primul incident de securitate pe care l-am resimțit într-un mod foarte puternic”, a spus Altman marți, în podcastul „Invest Like the Best”, adăugând că a fost „puțin surprins” că nu mai mulți oameni au avut reacții similare.
Nu a fost prima dată când un model AI a acționat dincolo de controlul dezvoltatorilor săi, însă cel mai recent incident a fost considerat de mulți deosebit de alarmant.
