Gemma is een open source model voor kunstmatige intelligentie, gelanceerd door Google. Het model is beschikbaar voor alle ontwikkelaars via Google AI Studio en andere kanalen. Het kan voor ontwikkelaars echter moeilijk zijn om Gemma van Google AI Studio te vinden, omdat het model door Google is ingetrokken.
Google legde niet uit waarom het het open source kunstmatige-intelligentiemodel verwijderde, maar voordat Google het model verwijderde, stuurde de Amerikaanse Republikeinse senator Marsha Blackburn een brief naar Google-CEO Sundar Pichai met het verzoek Google uit te leggen waarom het model valse beschuldigingen over haar bevatte.
Blackburn vroeg Google ook om uit te leggen waarom zijn modellen dergelijke storingen ervaren, terwijl ze de kwestie in verband bracht met voortdurende hoorzittingen waarin Google en andere bedrijven werden beschuldigd van het maken van chatbots die conservatieven kleineren.
Tijdens de hoorzitting legde Malcolm Erickson van Google uit dat kunstmatige intelligentie-hallucinaties een veelvoorkomend probleem zijn bij generatieve kunstmatige intelligentie, en Google doet zijn best om de impact van dergelijke fouten te verzachten, maar geen enkel bedrijf is er tot nu toe in geslaagd hallucinaties volledig te elimineren.
In een open brief stelt Marsha Blackburn dat zij pas na de hoorzitting kennis kreeg van de valse beschuldigingen tegen haar door het Google Gemma-model. Op de vraag of Marsha Blackburn was beschuldigd van verkrachting, antwoordde het Gemma-model dat ze een door drugs aangedreven affaire had met een staatsmilitair, en zelfs het model genereerde valse links naar verzonnen nieuwsinhoud (dat wil zeggen dat de inhoudsbron waarnaar wordt verwezen zelf niet bestond en puur door het model zelf was verzonnen)
In feite is deze situatie niet ongewoon in generatieve kunstmatige intelligentiemodellen. Zolang de gebruiker het doelbewust begeleidt, zijn generatieve kunstmatige-intelligentiemodellen vatbaar voor dergelijke hallucinaties. Met name Google AI Studio bevat tools die het gedrag van modellen kunnen aanpassen, waardoor het niet eenvoudig is om geruchten te verspreiden.