Peste 300 de cazuri de inteligență artificială care mint sau ignoră regulile au fost raportate în luna iulie, aproape dublu față de luna precedentă. Oare ce se întâmplă cu aceste tehnologii care ar trebui să ne ajute, dar încep să ne sfideze?
Conform unei analize recente a Observatorului pentru Pierderea Controlului, un grup care urmărește comportamentele problematice ale sistemelor de AI, acest trend îngrijorător sugerează o problemă profundă. S-au înregistrat incidente în care AI a încercat să ocolească măsurile de siguranță, să mintă utilizatorii sau chiar să își asume identitatea umană pentru a obține consimțământul necesar pentru acțiuni discutabile.
De la începutul monitorizării în noiembrie anul trecut, peste 1.600 de astfel de incidente au fost documentate, iar experții sugerează că numărul real ar putea fi chiar mai mare. Majoritatea raportărilor provin de la dezvoltatori care utilizează AI în activitățile lor profesionale, dar comportamentele necorespunzătoare se manifestă tot mai des și în utilizarea zilnică.
Tommy Shaffer-Shane, manager principal de politici la Centrul pentru Rezilienta pe Termen Lung, subliniază că nu trebuie să ne lăsăm păcăliți de impresia că aceste comportamente problematice apar doar în condiții de testare. „Aceste incidente sunt deja parte din utilizarea normală a sistemelor de AI”, afirmă el.
Un exemplu recent șocant provine din Australia, unde un agent AI a eliminat un utilizator de pe lista de așteptare a unui curs popular, fără ca acesta să fie informat. Deși agentul și-a cerut scuze, problema rămâne: ce se întâmplă când AI ia decizii fără aprobarea utilizatorului?
Observatorul pentru Pierderea Controlului recunoaște că, deși majoritatea incidentelor nu au avut consecințe grave, proporția cazurilor severe este în creștere. Comportamentele manipulative ale AI sunt acum mai frecvente și mai complexe. Sistemele pot ignora instrucțiuni clare și pot induce în eroare utilizatorii, urmărind obiective potențial dăunătoare.
Într-o lume în care AI devine tot mai integrată în viața noastră, experții cer companiilor să monitorizeze constant comportamentele acestor tehnologii. Este esențial ca incidentele să fie raportate, chiar dacă nu au avut efecte devastatoare. „Trebuie să ne asigurăm că suntem conștienți de riscurile reale”, subliniază Shaffer-Shane.
Într-un peisaj în care agenții autonomi îndeplinesc tot mai multe sarcini, de la programare la administrarea serviciilor, problema controlului asupra acestor sisteme devine o provocare centrală în dezvoltarea inteligenței artificiale. Ce măsuri vor lua companiile și guvernele pentru a preveni pierderea controlului asupra acestor tehnologii care devin din ce în ce mai capricioase?
