Anthropic heeft de Chinese AI-bedrijven DeepSeek, MiniMax en Moonshot onlangs publiekelijk beschuldigd van het massaal misbruiken van zijn grote model Claude om hun productmogelijkheden te verbeteren, en definieerde dit gedrag als ‘misbruik op industriële schaal’. De activiteit omvatte ongeveer 24.000 nepaccounts en meer dan 16 miljoen interacties met Claude, zei het bedrijf maandag in een verklaring, naar aanleiding van een rapport van The Wall Street Journal.
Volgens rapporten worden deze bedrijven ervan beschuldigd zogenaamde 'destillatie'-technologie te gebruiken om capaciteiten uit meer geavanceerde modellen zoals Claude te halen om kleinere modellen te trainen. Anthropic gaf in zijn beschrijving toe dat modeldistillatie zelf een ‘legitieme trainingsmethode’ is, maar benadrukte ook dat deze methode ‘ook voor ongepaste doeleinden kan worden gebruikt’, zoals het verkrijgen van krachtige capaciteiten van andere laboratoria tegen veel lagere kosten dan de tijd- en kapitaalkosten van onafhankelijk onderzoek en ontwikkeling.
Anthropic waarschuwt specifiek dat modellen die op deze manier door illegale distillatie zijn verkregen hoogstwaarschijnlijk niet de veiligheidsbeschermings- en beperkingsmechanismen van het oorspronkelijke model zullen erven. “Buitenlandse laboratoria die Amerikaanse modellen destilleren, kunnen deze veiligheidsbeperkingen omzeilen en onbeschermde capaciteiten rechtstreeks in militaire, inlichtingen- en surveillancesystemen voeden, waardoor autoritaire regeringen geavanceerde AI kunnen gebruiken voor offensieve cyberoperaties, de verspreiding van desinformatie en massale surveillance”, aldus het bedrijf.
Bij dit incident is DeepSeek degene die de meeste aandacht heeft getrokken; dit bedrijf heeft een schok veroorzaakt in de mondiale AI-industrie met zijn computationeel efficiëntere en krachtigere modellen. Anthropic zei dat er meer dan 150.000 interacties waren tussen DeepSeek en Claude, met een bijzondere nadruk op Claude's redeneervermogen. Bovendien wordt DeepSeek er ook van beschuldigd Claude te gebruiken om ‘censuurvriendelijke alternatieve uitdrukkingen’ te genereren om politiek gevoelige vragen te beantwoorden waarbij dissidenten, partijleiders of autoritarisme betrokken zijn om de filtering van het censuursysteem van het land te omzeilen.
Twijfels over DeepSeek komen niet alleen van Anthropic. Nog maar een week geleden beschuldigde OpenAI DeepSeek er in een brief aan Amerikaanse wetgevers ook van soortgelijke distillatiemethoden te gebruiken om “mee te liften” op de modelmogelijkheden die OpenAI en andere Amerikaanse bedrijven lange tijd hadden ontwikkeld om concurrentievoordeel te behalen. De brief positioneert DeepSeek ook als een bedreiging voor het Amerikaanse AI-ecosysteem en technologisch leiderschap.
Op dit moment heeft Anthropic het daaropvolgende juridische of regelgevende actiepad niet in detail bekendgemaakt in een openbare verklaring, maar door de kwestie op het niveau van de nationale veiligheid en het mondiale AI-beheer te brengen hoopt het bedrijf duidelijk toezichthouders en beleidsmakers ertoe aan te zetten het risico te lopen dat ‘modeldistillatie wordt misbruikt’. In een tijd waarin de mondiale AI-concurrentie steeds heviger wordt en grensoverschrijdende technologiestromen zeer gevoelig zijn, heeft deze beschuldiging de spanning rond het concurrentie- en veiligheidsspel tussen China en de Verenigde Staten op het gebied van AI-technologie verder verergerd.