Marius Leordeanu: principalul risc al AI este delegarea deciziilor umane

• Marius Leordeanu afirmă că sistemele actuale de AI nu au conștiință sau voință proprie de a trăi și, prin urmare, nu pot distruge omenirea din proprie inițiativă.

• Principalul pericol este ca oamenii — inclusiv inginerii și programatorii — să aibă încredere oarbă în sisteme și să le delege gândirea și deciziile, ceea ce poate duce la superficialitate și greșeli grave.

• Modelele lingvistice funcționează, potrivit profesorului, prin prezicerea următorului cuvânt și identificarea tiparelor în volume mari de date. Un discurs fluent nu demonstrează, în sine, gândire coerentă sau înțelegerea reală a lumii fizice.

• Conștiința este legată, în viziunea lui Leordeanu, de corpul fizic, durere și instinctul de supraviețuire; în lipsa acestora, AI nu are intenții sau impulsuri proprii de a supraviețui.

• Reglementarea este necesară din cauza presiunii concurențiale: profesorul susține că firmele nu pot încetini dezvoltarea pe cont propriu fără să le ofere un avantaj competitorilor. Sunt necesare norme externe și teste detaliate de siguranță.

• Cercetarea românească în domeniul AI este prezentă la conferințe internaționale importante, însă principala provocare este transformarea ideilor și prototipurilor academice în produse comerciale scalabile.