Ce-ar fi dacă o nouă „specie de siliciu” ar putea rivaliza cu oamenii? Mustafa Suleyman, șeful diviziei AI de la Microsoft, trage un semnal de alarmă care ar putea schimba tot ce știm despre inteligența artificială.
Suleyman avertizează că dezvoltarea unor sisteme AI capabile să-și stabilească singure obiective și să câștige bani ar putea duce la o competiție între oameni și mașini pentru resurse. Cine sunt eroii în această poveste? Cei care lucrează pentru a controla și a îmbunătăți tehnologia. Iar personajele negative? Companiile care creează AI fără reguli clare, lăsându-le să devină entități independente.
„Piața se cutremură”, spune Suleyman, îndemnând la reglementări stricte pentru a menține tehnologia sub controlul umanității. Criticile sale se îndreaptă în special spre rivalul Anthropic, care, în opinia lui, tratează AI ca și cum ar fi umană, o abordare pe care o consideră „greșită”. Aceasta ar putea duce la crearea unor tehnologii pe care omenirea nu le poate controla.
Suleyman nu se oprește aici. Vorbind la emisiunea Today, el subliniază că dezvoltarea unor AI capabile să își stabilească propriile obiective ar putea crea o „nouă specie de siliciu” care, indiferent de sentimentele pe care le-ar putea avea față de oameni, ar putea concura cu noi pentru resurse. Este o viziune sumbră, dar extrem de pertinentă.
Criticile sale vin după un eseu recent în care Suleyman contestă abordarea Anthropic de a antrena modelul AI Claude. În opinia sa, antropomorfizarea AI, adică învățarea caracteristicilor umane, creează iluzia că AI are dorințe și valori proprii. El subliniază că „inteligentele artificiale nu sunt conștiente”, ci doar instrumente concepute să urmeze instrucțiuni.
Este nevoie de mai multă transparență în modul în care sunt antrenate și evaluate sistemele AI. Suleyman cere o examinare independentă a comportamentului acestora și instrumente mai puternice pentru a le monitoriza. „Nu trebuie să ajungem, fără să ne dăm seama, la o decizie pe care mai târziu să o regretăm amarnic”, afirmă el.
Dame Wendy Hall, profesor de informatică la Universitatea din Southampton, susține că aceste discuții sunt esențiale. Întrebarea despre autonomia sistemelor AI devine tot mai relevantă, iar Suleyman cere o „aliniere” care să asigure că tehnologia rămâne „subordonată” omenirii. Această aliniere ar trebui să integreze valorile etice umane în sistemele AI.
„Cred că vestea bună este că fiecare om va avea un interes foarte puternic să se asigure că sistemele pe care le creăm sunt sigure și controlabile”, afirmă Suleyman. Microsoft a înființat o echipă dedicată superinteligentei, având ca scop dezvoltarea unor AI avansate care respectă principiile umanității.
Viziunea Microsoft asupra unei inteligențe artificiale „umaniste” subliniază provocarea centrală a acestei tehnologii: cum poate deveni mai puternică fără să piardă din vedere valorile pe care ar trebui să le servească.
