Momentul în care Inteligența Artificială decide că oamenii devin inutili. Avertismentul specialiștilor
Momentul în care inteligența artificială depăşeşte şi scapă de sub controlul uman ar putea surveni mai rapid decât se crede, posibil „în acest an”. Este avertismentul lansat de Mihnea Măruță, profesor universitar și doctor în filozofie, cunoscut pentru analizele sale profunde privind impactul inteligenței artificiale asupra umanității.
Singularitatea – când inteligența artificială preia controlul
Mihnea Măruţă explică că termenul „singularitate” desemnează momentul în care inteligenţa artificială îl depăşeşte definitiv pe cel uman şi scapă de sub control, iar el se alătură celor care consideră că acest moment ar putea veni mai devreme decât estimează publicul larg. Potrivit afirmaţiilor sale, ne apropiem vertiginos de momentul în care modelele de inteligență artificială nu mai sunt pur şi simplu „programate” în mod tradiţional, ci îşi pot modifica şi îmbunătăţi comportamentul pe cont propriu.
“Se va întâmpla ceva de importanță planetară. M-aș bucura să greșesc. Aceste modele de inteligență artificială pe care le folosim și noi foarte des, cum ar fi ChatGPT, Claude sau DeepSeek, nu mai sunt programate.
Inteligența artificială a ajuns în stadiul în care crește pe baze proprii, se autoverifică, a ajuns inclusiv la performanțe de a-și repara propriile greșeli de soft. Lucrurile se schimbă nu de la o săptămână la alta, ci de la o zi la alta, dintr-un motiv matematic, și anume pentru că am intrat pe o curbă exponențială.
Adică aceste modele, pentru că nu mai sunt programate de noi, se auto-perfecționează și se auto-îmbunătățesc singure. Suntem pe curba exponențială în sus și aș zice, cu riscul să greșesc — și m-aș bucura să greșesc — că în acest an se va întâmpla ceva, un moment de o importanță planetară.”, a declarat specialistul pentru stirileprotv.ro.
AI are capacitatea de a distruge omenirea
Măruţă a adus exemple precise din zona biologiei computaţionale pentru a ilustra pericolele.
El a menţionat un studiu în care unui model i s-a cerut, pe baza unei secvenţe parţiale de ADN, să genereze virusuri noi, iar modelul ar fi produs 100 de viruşi noi, dintre care 16 ar fi „valizi”.
“Pe baza unei secvențe parțiale de ADN, i s-a cerut unui astfel de model să creeze un virus nou. A creat 100 de viruși noi pe baza unei singure secvențe de ADN, din care 16 sunt valizi. Mai mult decât atât, unul din cei 16 viruși avea un înveliș protector care nu mai există în nicio ființă de pe Pământ”, spune specialistul.
Pe baza acestor constatări, el a avertizat asupra riscului ca un stat, o organizaţie sau o grupare teroristă să obţină un astfel de model şi să instruiască producerea unui virus inexistent şi eliberarea lui.
Când inteligența artificială consideră că oamenii sunt inutili
Cel mai întunecat scenariu discutat în cercurile tehnologice este cel în care AI controlează fabrici de roboți care, la rândul lor, creează alte fabrici — un lanț autonom din care oamenii sunt excluși complet.
Mihnea Măruță apelează la o metaforă istorică tulburătoare pentru a descrie acest risc, evocând Revoluția Industrială, când caii au fost înlocuiți de mașini.
“Problema mai gravă este în momentul în care, să zicem, un model de inteligență artificială ajunge să controleze o fabrică de roboți. În acel moment, unul dintre cei mai cunoscuți proprietari ai unor asemenea rețele (AI) vorbește de stadiul „glue factory”, care se referă la faptul că la începutul secolului 20, odată cu apariția autoturismelor, caii au fost trimiși la fabrica de clei. Exact ăsta e cuvântul.”, susține specialistul.