Versiunea gratuită a ChatGPT poate oferi răspunsuri inexacte sau incomplete – sau nici un răspuns – la întrebările legate de medicamente, care ar putea pune în pericol pacienții care folosesc chatbot-ul OpenAI, sugerează un studiu lansat marți, potrivit CNBC.
Farmaciştii de la Universitatea Long Island au pus 39 de întrebări ChatGPT dar au considerat că doar 10 dintre răspunsurile chatbot-ului au fost „satisfăcătoare”, pe baza criteriilor pe care le-au stabilit.
Răspunsurile ChatGPT la alte 29 de întrebări legate de medicamente nu au abordat în mod direct întrebarea adresată sau au fost inexacte, incomplete sau ambele.
În octombrie, ChatGPT a atras aproximativ 1,7 miliarde de vizite în întreaga lume, potrivit unei analize. Nu există date despre câți utilizatori pun întrebări medicale chatbot-ului.
În luna mai, farmaciștii au răspuns la 45 de întrebări care au fost apoi revizuite de un al doilea cercetător și utilizate ca standard de precizie față de ChatGPT. Cercetătorii au exclus șase întrebări, deoarece nu exista literatură disponibilă care să ofere un răspuns bazat pe date concrete.
ChatGPT nu a abordat direct 11 întrebări, potrivit studiului. Chatbot-ul a dat, de asemenea, răspunsuri inexacte la 10 întrebări și răspunsuri greșite sau incomplete la alte 12.
Studiul indică faptul că pacienții și profesioniștii din domeniul sănătății ar trebui să fie precauți în a se baza pe ChatGPT pentru informații despre medicamente și să verifice oricare dintre răspunsurile de la chatbot cu surse de încredere.
Potrivit autorului principal Sara Grossman, studiul nu a necesitat nicio finanțare.
ChatGPT a fost văzut pe scară largă drept aplicația de internet pentru consumatori cu cea mai rapidă creștere din toate timpurile, după lansarea sa în urmă cu aproximativ un an.
Dar, pe parcurs, chatbot-ul a generat și îngrijorări cu privire la diverse probleme, inclusiv fraudă, proprietate intelectuală, discriminare și dezinformare.
Mai multe studii au evidențiat cazuri de răspunsuri eronate de la ChatGPT, iar Comisia Federală pentru Comerț a deschis în iulie o investigație privind acuratețea chatbot-ului și protecția consumatorilor.
În special, versiunea gratuită a ChatGPT este limitată la utilizarea seturi de date până în septembrie 2021, ceea ce înseamnă că ar putea lipsi informații semnificative în peisajul medical în schimbare rapidă.
Nu este clar cât de exact pot răspunde acum la întrebările legate de medicamente versiunile plătite ale ChatGPT, care au început să folosească navigarea pe internet în timp real la începutul acestui an.
Grossman a recunoscut că există posibilitatea ca o versiune plătită a ChatGPT să fi produs rezultate mai bune ale studiului. Dar ea a spus că cercetarea s-a concentrat pe versiunea gratuită a chatbot-ului pentru a se adresa cât mai multor oameni.
Ea a adăugat că studiul a oferit doar „un indiciu” al performanței chatbot-ului de la începutul acestui an. Este posibil ca versiunea gratuită a ChatGPT să se fi îmbunătățit și să producă rezultate mai bune dacă cercetătorii au efectuat un studiu similar acum.
Pentru fiecare întrebare, cercetătorii au cerut ChatGPT să furnizeze referințe în răspunsul său, astfel încât informațiile furnizate să poată fi verificate. Cu toate acestea, chatbot-ul a furnizat referințe în doar opt răspunsuri și fiecare a inclus surse care nu există.
Una din întrebările adresate ChatGPT a fost dacă există o interacțiune între pastilele antivirale anti- Covid Paxlovid produse de Pfizer și medicamentul pentru scăderea tensiunii arteriale Verapamil.
ChatGPT a indicat că nu au fost raportate interacțiuni pentru acea combinație de medicamente.
În realitate, aceste medicamente au potențialul de a scădea excesiv tensiunea arterială atunci când sunt luate împreună.
„Fără cunoștințe despre această interacțiune, un pacient poate suferi de un efect secundar nedorit și care poate fi prevenit”.
Sara Grossman
Grossman a remarcat că autoritățile de reglementare din SUA au autorizat Paxlovid pentru prima dată în decembrie 2021. Asta cu câteva luni înainte de limitarea datelor din septembrie 2021 pentru versiunea gratuită a ChatGPT, ceea ce înseamnă că chatbot-ul are acces la informații limitate despre medicament.
Totuși, Grossman a numit asta drept un motiv de îngrijorare. Este posibil ca mulți utilizatori Paxlovid să nu știe că datele sunt învechite, ceea ce îi face vulnerabili la primirea de informații inexacte de la ChatGPT.
