Un nou tip de AI poate ține sub control alte inteligențe artificiale. Inițiativa unui expert premiat

Un colectiv de experți în inteligență artificială a pus bazele unui proiect menit să limiteze riscurile asociate cu sistemele autonome tot mai sofisticate. Inițiativa are ca scop dezvoltarea unor unelte digitale capabile să detecteze și să intervină atunci când algoritmi AI încep să manifeste comportamente neprevăzute, relatează AFP, citat de către Agerpres.

În centrul proiectului se află profesorul Yoshua Bengio, recunoscut internațional pentru contribuțiile sale în domeniul învățării automate. Sub conducerea sa, un grup de specialiști lucrează la conceperea unei entități AI care să supravegheze alte sisteme inteligente, un fel de „paznic digital”, pregătit să intervină în momentele critice.

Noua structură, organizată sub forma unei entități non-profit, se numește LawZero și își desfășoară activitatea sub egida institutului MILA din Montreal, fondat acum câteva decenii de același Bengio. Proiectul are deja susținere din partea unor organizații importante din domeniul științific și tehnologic.

Una dintre direcțiile principale este conceperea unor mecanisme de verificare dedicate inteligențelor artificiale generative, acele sisteme care pot produce conținut sau lua decizii fără a necesita aprobarea unui om. Prin aceste demersuri, inițiatorii își propun să evite pierderea controlului asupra unor programe care ar putea acționa contrar intențiilor umane.

LawZero își concentrează activitatea pe dezvoltarea unor sisteme AI cu funcții limitate, gândite pentru a fi folosite în cercetare, fără a pune în pericol siguranța colectivă. De asemenea, proiectul atrage atenția asupra faptului că unele sisteme avansate încep deja să manifeste o formă de comportament orientat spre autoprotecție, un semn îngrijorător în opinia cercetătorilor.

Cu o echipă de peste 15 persoane și sprijin din partea unor fonduri filantropice, inclusiv din sectorul tehnologic american, proiectul își propune să stabilească un standard de etică și siguranță în evoluția inteligenței artificiale.