„Lumea e în pericol”. Așa începe avertismentul unui tânăr cercetător care a decis să părăsească industria inteligenței artificiale, îngrijorat de direcția în care se îndreaptă tehnologia. A anunțat această decizie prin șapte mesaje postate pe X, care au strâns două milioane de vizualizări în doar două ore. Motivul? O frază simplă: „Niciuna dintre cele două companii nu acționează în mod responsabil”. Iar companiile în cauză sunt nimeni altele decât OpenAI și Anthropic, fostele sale locuri de muncă.
Coxon, un matematician cu experiență în antrenarea modelelor de IA, ne aduce în centrul acțiunii. Colegii săi, spune el, folosesc termeni ca „crunchtime” și „endgame” pentru a descrie starea actuală a sectorului IA, care se îndreaptă spre cele mai extreme scenarii. „Până la sfârșitul anului viitor, lucrurile ar putea scăpa de sub control”, avertizează el, subliniind că această cursă între laboratoarele americane și cele chineze aduce riscuri imense.
„Nu subestimați puterea acestei tehnologii”, scrie el într-un tweet, adăugând că aceste sisteme vor deveni „supraomenești”, capabile să „pirateze orice” și să revoluționeze domenii întregi într-o clipă. Mai alarmant, Coxon susține că dezvoltatorii de IA cred cu tărie că tehnologia ar putea duce la distrugerea umanității până la sfârșitul acestui deceniu. „Nu este o strategie de marketing”, continuă el. În fața presei, liderii din domeniu aleg cuvinte măsurate, dar în privat, aceleași persoane recunosc fricile pe care le au.
Coxon ridică o întrebare crucială: „Dacă cred cu adevărat asta, atunci de ce continuă să o construiască?”. La OpenAI, spune el, mulți nu au înțeles pe deplin mizele civilizaționale. La Anthropic, mizele sunt clare, dar angajații sunt prinși într-o cursă pentru a ajunge primii, crezând că nimeni altcineva nu va acționa responsabil.
În ciuda eforturilor Anthropic de a dezvolta IA în mod sigur, Coxon concluzionează că nicio companie nu poate crea o inteligență artificială care să depășească capacitățile umane fără intervenția statului sau o încetinire coordonată. Plecarea sa de la Anthropic reprezintă un semnal de alarmă în rândul experților. „Lumea este în pericol”, spune el, lăsându-ne pe toți să ne întrebăm: ce va urma?
