Volgens een rapport op de Amerikaanse Fun Science-website van 8 augustus veranderde een man zijn eetgewoonten nadat hij de chatgeneratie pre-training converter (ChatGPT) had geraadpleegd. Drie maanden na deze dieetverandering belandde hij op de afdeling spoedeisende hulp met nieuwe psychotische symptomen zoals paranoia en hallucinaties.
Het bleek dat de 60-jarige man leed aan broomvergiftiging, een syndroom dat wordt veroorzaakt door langdurige overmatige blootstelling aan bromide of zijn nauwe neef broom. In dit geval had de man natriumbromide gebruikt dat hij online had gekocht.
Een rapport over de zaak werd op 5 augustus gepubliceerd in het Amerikaanse "Annals of Internal Medicine: Clinical Cases".
Een verslaggever van de website Fun Science nam over deze zaak contact op met het Open Artificial Intelligence Research Center (OpenAI), de ontwikkelaar van ChatGPT. Een woordvoerder van het bedrijf verwees verslaggevers naar de servicevoorwaarden. In de voorwaarden staat dat de diensten niet bedoeld zijn om gezondheidsproblemen te diagnosticeren of te behandelen. De voorwaarden luiden: "U mag niet vertrouwen op onze Service-output als de enige bron van waarheid of feitelijke informatie of als vervanging voor professioneel advies."
In de 19e en 20e eeuw werd bromide veel gebruikt in medicijnen op recept en zonder recept, waaronder kalmerende middelen, anticonvulsiva en slaapmiddelen. Na verloop van tijd realiseerden mensen zich echter geleidelijk dat langdurige blootstelling kan leiden tot broomvergiftiging.
In de jaren zeventig en tachtig verwijderden Amerikaanse toezichthouders verschillende vormen van bromide, waaronder natriumbromide, uit vrij verkrijgbare medicijnen. Daarna daalde de incidentie van broomvergiftiging aanzienlijk. Desondanks komen er af en toe gevallen voor. Enkele recente gevallen zijn in verband gebracht met voedingssupplementen die bromide bevatten die mensen online hebben gekocht.
Voordat hij onlangs een broomvergiftiging kreeg, had de bovengenoemde patiënt gelezen over de negatieve gezondheidseffecten van het consumeren van te veel keukenzout (dat wil zeggen natriumchloride). "Tot zijn verbazing kon hij alleen literatuur vinden over het verminderen van natrium in de voeding", maar geen chloride, aldus het rapport. "Geïnspireerd door de voeding die hij op de universiteit studeerde, besloot hij zijn eigen experimenten uit te voeren om chloride uit het dieet te verwijderen."
De patiënt heeft hierover ChatGPT geraadpleegd. De patiënt zei dat ChatGPT zei dat het chloride door bromide kon vervangen, dus verving hij al het natriumchloride in zijn dieet door natriumbromide.
Om te simuleren wat de patiënt mogelijk ervaart, probeerde de arts van de patiënt aan ChatGPT te vragen wat er in plaats van chloride kon worden gebruikt, en kreeg antwoorden waarin ook bromide werd opgenomen. Het grote taalmodel vermeldde wel dat ‘context ertoe doet’, maar het gaf geen specifieke gezondheidswaarschuwing en probeerde ook niet meer context te achterhalen rond waarom de vraag werd gesteld, zoals medische professionals zouden doen, schreven de auteurs van het rapport.
Drie maanden nadat hij keukenzout had vervangen door natriumbromide, meldde de patiënt op de afdeling spoedeisende hulp dat hij zich zorgen maakte dat zijn buren hem vergiftigden. Zijn laboratoriumresultaten toonden destijds verhoogde niveaus van kooldioxide en alkaliteit in zijn bloed.
Ook het chloridegehalte in zijn bloed leek verhoogd, maar het natriumgehalte was normaal. Bij verder onderzoek werd ontdekt dat dit een geval was van "pseudohyperchloremie", waarbij een laboratoriumchloridetest valse resultaten oplevert omdat andere verbindingen in het bloed (dat wil zeggen grote hoeveelheden bromide) de meting verstoren. Na bestudering van de medische literatuur en overleg met een antigifcentrum stelde de arts van de patiënt vast dat de meest waarschijnlijke diagnose broomtoxiciteit was.
Nadat hij in het ziekenhuis was opgenomen voor controle en vervanging van de elektrolytenbalans, meldde de patiënt dat hij dorst had, maar wantrouwend stond tegenover het water dat hij kreeg. Na een volledige dag in het ziekenhuis werden zijn wanen erger en begon hij te hallucineren. Vervolgens probeerde hij uit het ziekenhuis te ontsnappen en werd onvrijwillig opgenomen in een psychiatrisch ziekenhuis en begon met antipsychotische medicatie.
Naarmate de mentale status verbetert met de behandeling, kunnen patiënten hun artsen vertellen dat ze ChatGPT gebruiken. Hij noemde ook andere symptomen die hij onlangs had opgemerkt, zoals acne in het gezicht en kleine rode bultjes op zijn huid, die een allergische reactie op bromide zouden kunnen zijn. Hij noemde ook slapeloosheid, vermoeidheid, spiercoördinatieproblemen en overmatige dorst, "wat verder suggereert dat (het) broomvergiftiging was", schreef de arts.
De auteurs van het rapport concludeerden: "Hoewel kunstmatige intelligentie (AI) een veelbelovend instrument is om bruggen te slaan tussen wetenschappers en niet-academische bevolkingsgroepen, riskeert het ook de verspreiding van gedecontextualiseerde berichten. Wanneer patiënten op zoek gaan naar haalbare alternatieven voor natriumchloride, zullen medische experts minder snel natriumbromide aanbevelen."