Google po përballet me kritika se po rrezikon përdoruesit duke mos i paraqitur qartë paralajmërimet për saktësinë e këshillave mjekësore të gjeneruara nga inteligjenca artificiale në funksionin “AI Overviews”.
Sipas një hetimi të publikuar nga The Guardian, paralajmërimet se informacioni mund të jetë i pasaktë nuk shfaqen në momentin kur përdoruesit marrin për herë të parë përmbledhjen me këshilla shëndetësore. Ato paraqiten vetëm pasi përdoruesi klikon “Show more” për më shumë informacion dhe madje edhe atëherë, shfaqen në fund të tekstit, me një font më të vogël dhe më pak të dukshëm.
Në paralajmërim thuhet: Ky informacion shërben vetëm për qëllime informuese. Për këshilla ose diagnozë mjekësore, konsultohuni me një profesionist. Përgjigjet e AI mund të përmbajnë gabime.
Google nuk e ka mohuar se paralajmërimet nuk shfaqen menjëherë. Një zëdhënës i kompanisë ka deklaruar se “AI Overviews i inkurajon përdoruesit të kërkojnë këshilla profesionale mjekësore” dhe se nevoja për kujdes mjekësor përmendet shpesh brenda vetë përmbledhjes, kur është e nevojshme.
Ekspertët e inteligjencës artificiale dhe përfaqësues të organizatave të pacientëve kanë shprehur shqetësim për mënyrën e paraqitjes së informacionit. Pat Pataranutaporn nga Massachusetts Institute of Technology (MIT) theksoi se mungesa e paralajmërimeve në fillim krijon “rreziqe kritike”, pasi edhe modelet më të avancuara të AI mund të prodhojnë informacion të pasaktë.
“Paralajmërimet ndërpresin besimin automatik të përdoruesve dhe i nxisin ata të jenë më kritikë ndaj informacionit që marrin”, u shpreh ai.
Edhe Gina Neff nga Queen Mary University of London e cilësoi problemin si çështje dizajni. Sipas saj, përmbledhjet e AI janë ndërtuar për shpejtësi dhe jo domosdoshmërisht për saktësi, çka mund të çojë në gabime të rrezikshme në informacionin shëndetësor.
Në janar, The Guardian raportoi se disa përmbledhje të AI përmbanin informacion të rremë ose mashtrues mbi çështje shëndetësore. Pas publikimit të raportit, Google hoqi funksionin AI Overviews për disa kërkime mjekësore, por jo për të gjitha.
Sonali Sharma nga Stanford University tha se problemi kryesor është se përmbledhjet shfaqen në krye të faqes së kërkimit dhe shpesh japin përshtypjen e një përgjigjeje të plotë.
“Për shumë njerëz, kjo krijon një ndjenjë sigurie që dekurajon kërkimin e mëtejshëm. Rreziku qëndron në faktin se informacioni mund të jetë pjesërisht i saktë dhe pjesërisht i pasaktë, duke e bërë të vështirë dallimin mes tyre”, tha ajo.
Ndërkohë, Tom Bishop nga organizata bamirëse për kancerin e gjakut Anthony Nolan bëri thirrje që paralajmërimet të vendosen në mënyrë më të dukshme.
“Kur bëhet fjalë për shëndetin, dezinformimi mund të jetë shumë i rrezikshëm. Paralajmërimi duhet të jetë në krye të faqes, me të njëjtën madhësi shkrimi si pjesa tjetër e tekstit, në mënyrë që të mos kalojë pa u vënë re”, tha ai.