Ce este proiectul secret Q* al OpenAI / Angajații companiei susțin că este un „pericol pentru umanitate”

Câțiva cercetători ai OpenAI au trimis înaintat o scrisoare cu referire la o descoperire capitală în inteligența artificială, care ar putea fi un „pericol pentru umanitate”. Proiectul Q* a fost prezentat înainte ca Sam Altam să fie înlăturat de la conducerea companiei, scrie Reuters.

Proiectul Q*, pronunțat Q-Star, este important pentru OpenAI în dezvoltarea super-inteligenței, denumită în termeni de specialitate artificial general intelligence (AGI).

Ce poate face noua descoperire a OpenAI, Q-Star

Noul model al OpenAI a putut rezolva probleme complexe de matematică pe care modelele din trecut ale companiei nu le-au putut rezolva. Până acum nu se știe care este partea cu „pericolul pentru umanitate”, pentru că nu se știu detalii despre acest proiect.

În trecut, Sam Altman a declarat că OpenAI va ajunge să dezvolte o „superinteligență”. AGI face referire la un nivel de dezvoltare în domeniul AI în care un sistem poate să facă orice sarcină intelectuală pe care o poate realiza un om.

Pentru a se apropia de cel mai mare țel al companiei, AGI, Sam Altman a condus „cu mână de fier” eforturile de a face din ChatGPT o aplicație cu cea mai rapidă creștere din istorie, care a atras investițiile.

„De patru ori în istoria OpenAI – iar cel mai recent moment a fost chiar în ultimele săptămâni – s-a întâmplat să mă aflu în cameră exact când împingem înapoi într-un fel vălul ignoranței și frontiera descoperirii merge înainte. Un astfel de moment este onoarea profesională a vieții”, menționa Altman la summitul Cooperării Economice Asia-Pacific.

Ce este AGI (Inteligența Artificială Generală)

„Viziunea noastră este de a construi o AGI, de a vedea cum o putem face să fie sigură și să ne dăm seama care sunt beneficiile”, spunea șeful OpenAI, pe 12 noiembrie, pentru Financial Times.

Cu ajutorul AGI, un sistem poate să facă orice sarcină intelectuală pe care o poate realiza un om. Până acum, orice sistem de inteligență artificială este specializat în anumite sarcini sau domenii, printre care recunoaștere vocală, procesarea limbajului natural și jocurile de strategie.

Astfel, AGI ar trebui să poată aborda o gamă mai largă de sarcini, să învețe din experiență și să se adapteze la noi contexte într-un mod asemănător cu o minte umană, scrie hotnews.ro.

Până acum, niciun sistem de inteligență artificială nu este aproape de a atinge nivelul  AGI.