Imaginează-ți că ești pe punctul de a lua o decizie medicală crucială, iar sursa ta principală de informare este un chatbot care poate să nu aibă răspunsul corect. Chatboții precum ChatGPT și Gemini oferă diagnostice greșite în 80% din cazurile medicale inițiale, potrivit unui nou studiu realizat de Mass General Brigham.
Acest studiu, publicat în Jama Network Open, a testat 29 de viniete clinice folosind multiple modele AI, incluzând cele de la OpenAI, Anthropic și Google. Cercetătorii au descoperit că toate modelele testate au dat rate de eroare de peste 80% atunci când informațiile pacienților erau incomplete.
Cum ne afectează asta? Imaginați-vă că depindeți de un astfel de sistem pentru o problemă de sănătate urgentă. Deși au avut succes în a oferi diagnostic corect pentru 90% dintre cazuri atunci când au primit toate datele, chatboții rămân vulnerabili la erori atunci când informațiile sunt incomplete.
Aceasta ne face să ne întrebăm: Suntem pregătiți să ne punem încrederea în inteligența artificială pentru decizii medicale?
Performanța acestor sisteme AI depinde crucial de informațiile oferite. Totuși, chiar și atunci când au toate datele la dispoziție, erorile rămân peste pragul de 40%. Problema majoră este tendința chatboților de a ‘halucina’, adică de a inventa informații atunci când nu au un răspuns clar.
Rămâne de văzut cum vor evolua aceste tehnologii și dacă vor putea fi integrate în mod sigur în sistemele de sănătate viitoare.
