Umjetna inteligencija može biti odlična za pomoć pri pisanju mailova ili kao razonoda, no s njom svakako treba imati granica. Chatbotima se nikako nemojte obraćati za zdravstvene savjete. Do čega to može dovesti pokazao je jeziv slučaj muškarca, koji je zbog umjetne inteligencije završio na psihijatriji.
Ovaj muškarac o kojem su pisali u časopisu Anali interne medicine, slijedio je zdravstveni plan koji mu je napisala umjetna inteligencija, a kojim se otrovao. Ovaj čovjek odlučio je jesti manje slano hranu, a chatbot mu je predložio da kuhinjsku sol (natrijev klorid) zamijeni natrijevim bromidom.
On je to i učinio, naručivši tvar putem interneta. Natrijev bromid može biti zamjena za sol čišćenju, no ne i prehrani.
Bio je paranoičan i halucinirao
Umjetnu inteligenciju je vjerojatno pitao s čime može zamijeniti sol, a da nije precizirao da je riječ o prehrani. Generativna umjetna inteligencija radi tako da prepoznaje obrasce u tekstu, a bez konteksta može dati sulude odgovore poput ovog, prenosi Science Alert.
Tri mjeseca kasnije, pacijent je došao na hitnu s paranoidnim zabludama, uvjeren da ga susjed pokušava otrovati. „U prvih 24 sata hospitalizacije izražavao je sve veću paranoju te slušne i vidne halucinacije, što je, nakon pokušaja bijega, rezultiralo prisilnim psihijatrijskim zadržavanjem zbog teškog onesposobljenja“, napisali su liječnici.
Nakon terapije antipsihoticima, pacijent je objasnio što se dogodilo, a liječnici su mu, nakon što su proučili nalaze, dijagnosticirali, bromizam, odnosno trovanje bromidom. U zdravih osoba razina bromida je ispod 10 mg/L, dok je kod njega izmjerena 1.700 mg/L.
Komarci zbog ovog trika bježe kao ludi: Trebat će vam i WC papir
Umjetna inteligencija i dalje ne može zamijeniti ljude
Bromizam je bio čest početkom 20. stoljeća, no gotovo je nestao nakon što su 1970-ih i 1980-ih iz uporabe povučeni lijekovi s bromidima.
Pacijenta su liječili tri tjedna, nakon čega se oporavio bez većih posljedica. Slučaj, međutim, pokazuje da umjetna inteligencija još uvijek ne može zamijeniti ljudsku stručnost u pitanjima od stvarne važnosti.
„Važno je uzeti u obzir da ChatGPT i drugi AI sustavi mogu pokazati netočne informacije, nemaju sposobnost kritičkog komentiranja rezultata te na kraju mogu poticati širenje dezinformacija“, pišu autori.
