Un bărbat de 60 de ani a ajuns la spital cu simptome severe, inclusiv halucinații și paranoia, după ce a urmat o dietă bazată pe un sfat obținut de la un model de inteligență artificială. Aceasta întâmplare subliniază riscurile asociate cu utilizarea tehnologiei pentru a obține informații medicale, evidențiind importanța consultării unor surse de încredere.
Incidentul a avut loc după ce bărbatul a decis să înlocuiască sarea de masă cu bromură de sodiu, un compus chimic pe care l-a achiziționat online. Trei luni după ce a adoptat această schimbare drastică în dietă, el a început să experimenteze simptome psihiatrice alarmante. Potrivit unui raport publicat în Annals of Internal Medicine Clinical Cases, medicii care l-au tratat au observat că bărbatul suferea de bromism, o afecțiune cauzată de expunerea cronică la bromură.
Deși autorii raportului nu au avut acces la conversațiile bărbatului cu ChatGPT, acesta a declarat că modelul de inteligență artificială i-a sugerat că sarea poate fi înlocuită cu bromură. Această recomandare s-a dovedit a fi extrem de periculoasă, având în vedere că bromura de sodiu este utilizată în principal pentru curățare și nu este destinată consumului alimentar. Medicii au încercat să reproducă situația și au obținut un răspuns similar de la ChatGPT, care nu a oferit avertismente adecvate cu privire la riscurile pentru sănătate.
Este esențial de menționat că serviciile de inteligență artificială nu sunt concepute pentru a oferi diagnostice sau tratamente medicale. OpenAI, compania care dezvoltă ChatGPT, a subliniat că utilizatorii nu ar trebui să se bazeze pe aceste informații ca pe o sursă unică de Adevăr sau ca înlocuitor pentru sfaturile medicale profesionale. De asemenea, purtătorii de cuvânt ai companiei au indicat că echipele de siguranță lucrează constant pentru a reduce riscurile asociate utilizării acestor servicii.
Această întâmplare servește ca un avertisment important cu privire la utilizarea tehnologiei în domeniul sănătății și subliniază necesitatea de a verifica informațiile din surse de încredere înainte de a face modificări semnificative în stilul de viață sau dietă.
