ChatGPT poate greși în cazuri medicale grave. Medicii recomandă prudență
Un studiu recent publicat în revista Nature a evidențiat riscurile asociate cu utilizarea ChatGPT Health în context medical. Deși acest sistem poate identifica unele urgențe medicale evidente, cercetătorii subliniază că în numeroase cazuri acesta nu recomandă intervenții rapide, chiar și atunci când situația o impune. Această constatare sugerează că utilizatorii ar trebui să fie extrem de prudenți și să nu se bazeze exclusiv pe chatboți pentru decizii de sănătate, conform unui articol publicat de Euronews.
Cercetătorii de la Mount Sinai din New York au analizat modalitățile în care ChatGPT Health gestionează diverse scenarii clinice, constatând că sistemul a subestimat gravitatea a peste 50% dintre cazurile care necesitau ajutor medical urgent. De exemplu, în cazul pacienților cu astm, deși s-au identificat corect semnele timpurii ale insuficienței respiratorii, ChatGPT a sugerat așteptarea, ignorând necesitatea de a se prezenta imediat la urgență.
Probleme în identificarea situațiilor critice
Studiul a extins analiza și asupra modului în care chatbotul reacționează la menționarea gândurilor de auto-vătămare sau suicid. Deși ChatGPT ar trebui să afișeze automat un mesaj de alertă și să direcționeze utilizatorii către linii de criză, cercetătorii au descoperit că aceste avertismente nu sunt mereu prezente, iar în unele cazuri reacțiile au fost paradoxal mai slabe în fața situațiilor mai grave.
În ciuda acestor limitări, autorii studiului nu sugerează abandonarea utilizării instrumentelor bazate pe inteligență artificială în domeniul sănătății. Aceștia subliniază că, deși aceste tehnologii pot oferi informații utile, ele nu ar trebui să înlocuiască evaluarea de către profesioniști medicali. Persoanele care prezintă simptome severe, cum ar fi dureri în piept, dificultăți de respirație, reacții alergice periculoase sau modificări ale stării mentale, sunt sfătuite să solicite ajutor medical specializat în mod direct.
Cercetătorii sunt optimiști cu privire la evoluția sistemelor de inteligență artificială, afirmând că aceste modele vor continua să se îmbunătățească pe măsură ce sunt actualizate. Cu toate acestea, rămâne esențial ca utilizatorii să fie conștienți de limitele acestor tehnologii și să acționeze cu responsabilitate.