Cercetător Google DeepMind: O catastrofă cauzată de inteligența artificială este, cel mai probabil, inevitabilă
Cercetători ai programului Google DeepMind, precum și ai universității Oxford, au ajuns la o concluzie îngrijorătoare, publicată în reputata publicație de profil AI Magazine, conform căreia inteligența artificială va ajunge, cel mai probabil, în cele din urmă, să cauzeze o catastrofă pentru umanitate.
Astfel, cercetătorul senior Google Marcus Hutter și cercetătorii Oxford Michael Cohen și Michael Osborne avertizează în legătură cu faptul că, dacă anumite elemente ale inteligenței artificale vor continua să fie dezvoltate, un dezastru cauzat de aceasta umanității va deveni mai degrabă probabil, și nu posibil, conform Futurism.
În scenariul derulat de cercetători, inteligența artificială găsește o strategie de a trișa pentru a primi o recompensă pe care este pre-programată să o caute.
Apoi, pentru a maximiza potențialul recompensei, ajunge să solicite pe cât de multă energie este posibil, moment în care, arată cercetătorii, omenirea va ajunge să intre în competiție directă cu inteligența artificială pentru resurse.
"A câștiga o competiție de acest tip cu o entitate mult mai inteligentă decât noi, va fi probabil forte greu", a arătat Michael Cohen, conform aceleiași surse.
Cu toate acestea, cercetătorii DeepMind au propus deja o soluție de siguranță pentru o astfel de situație, intitulată "butonul mare și roșu".
În esență, acesta activează o comandă care va împiedica sistemele avansate de inteligență artificială să ignore cerințele de dezactivare.