Microsoft heeft medewerkers onlangs beperkt in het intern gebruik van Anthropic's nieuw uitgebrachte grote model Claude Fable 5 op Mythos-niveau vanwege zorgen over de compliance- en vertrouwelijkheidsrisico's die het gegevensretentiebeleid met zich mee kan brengen. Volgens mensen die bekend zijn met de zaak, nadat Anthropic de vereisten voor het bewaren van gegevens voor Claude Fable 5 had bijgewerkt, is het juridische team van Microsoft tussenbeide gekomen om het model te evalueren en tijdelijk te verwijderen van de GitHub Copilot-modelselectielijst die door werknemers binnen het bedrijf wordt gebruikt.
Anthropic heeft gisteren officieel zijn eerste model op Mythos-niveau gelanceerd, Claude Fable. Fable 5 is de kernversie van deze release en is snel geïntegreerd in klantgerichte producten en diensten zoals GitHub Copilot en Foundry van Microsoft. In tegenstelling tot de snelle lancering voor externe klanten kunnen de interne medewerkers van Microsoft echter tijdelijk niet kiezen voor Claude Fable 5 in hun eigen GitHub Copilot-omgeving, en hebben ze nog steeds alleen toegang tot andere modellen uit de Claude-serie die de ‘Zero Data Retention’ (ZDR)-strategie blijven implementeren.
Naar verluidt is de interne verklaring van Microsoft aan werknemers dat het juridische team de nieuwste vereisten voor het bewaren van gegevens van Anthropic voor de modellen uit de Mythos-serie aan het evalueren is. De kernproblemen richten zich op de manier waarop klantgegevens en vertrouwelijke informatie worden opgeslagen en verwerkt. Het is onduidelijk wat de juridische beoordeling zal zijn en of Claude Fable 5 in de toekomst heropend zal worden voor gebruik door Microsoft-medewerkers.
Volgens het door Anthropic aangekondigde beleid is de werking van Claude Fable 5 afhankelijk van een nieuwe beveiligingsclassificatie, die vereist dat de server gebruikersprompts en uitvoerinhoud bewaart voor beveiligingsanalyse en detectie van overtredingen. Volgens de huidige regels worden deze gegevens standaard 30 dagen bewaard en na het verstrijken verwijderd; Als de relevante inhoud wordt gemarkeerd als in strijd met het gebruiksbeleid van Anthropic, kan deze maximaal twee jaar worden bewaard voor voortdurende veiligheids- en nalevingsdoeleinden. Het is dit ‘vereiste retentiemechanisme’ dat bij Microsoft aanleiding heeft gegeven tot een reeks zorgen over wettelijke aansprakelijkheid, de privacy van klanten en de bescherming van de bedrijfsgeheimen.
De Claude Fable 5 is de eerste grootschalige publieke release van de Anthropic Mythos-familie van modellen, waarvan het bedrijf eerder heeft gezegd dat ze “te gevaarlijk zijn voor een volledige publieke release” als het gaat om gevoelige taken zoals cyberbeveiliging. Om het risico op misbruik te verminderen, introduceerde Anthropic strengere mechanismen voor snelle woordbeveiliging en inhoudsbeoordeling voor Fable 5, die ook technisch bijdroegen aan het huidige ontwerp voor gegevensretentie, waardoor een nieuwe spanning ontstond tussen productbeveiliging en gegevenscompliance.
De media hebben Microsoft om commentaar gevraagd over het huidige gebruik van Claude Fable 5 binnen Microsoft en de daaropvolgende plannen, maar Microsoft heeft niet vóór de deadline gereageerd.
Gerelateerde artikelen:
Anthropic brengt Claude Fable 5 uit, een openbare versie van Mythos zonder cyberbeveiligingsfuncties