Volgens meerdere berichten in de buitenlandse media heeft Anthropic vanochtend vroeg aangekondigd dat het de toegang tot de Fable 5- en Mythos 5-modellen zou beëindigen. Dit kan de trigger zijn.CEO van Amazon is Andy Jassy. De Wall Street Journal meldt dat Amazon-onderzoekers tijdens hun onderzoek met behulp van Claude Fable 5 van Anthropic informatie hebben verkregen die bij cyberaanvallen zou kunnen worden gebruikt. Vervolgens legde de Amerikaanse regering een exportcontroleverbod op voor Fable 5 en Mythos 5.
David Sacks, de voormalige AI-commissaris van Trump en huidige co-voorzitter van de President’s Council of Advisors on Science and Technology, gepost op een sociaal platformAntropische CEO Dario Amodei weigert iets op te lossen, en geclaimd in daaropvolgende officiële aankondigingenDeze kwetsbaarheid is niet ernstig en is terug te vinden in modellen van andere bedrijven..
Sacks is van mening dat dit bagatelliseren van risico's inconsistent is met de merkpositionering van Anthropic als AI-beveiligingsbedrijf. Hij onthulde ook dat de Amerikaanse regering hooptAnthropic zou veiligheidsproblemen snel kunnen oplossen en de exportcontroles kunnen opheffenen breng het Fable 5-model opnieuw uit.
Ter compensatie van gebruikersrechten biedt AnthropicTerugbetalingskanaal, plaatsten sommige internetgebruikers de terugbetalings-e-mail die ze van Claude hadden ontvangen. In de e-mail stond dat Anthropic de toegang tot het Claude Fable 5-model heeft gesloten; alle andere modellen van Opus, Sonnet en Haiku kunnen normaal worden gebruikt; en het gebruiksquotum van de gebruiker is opnieuw ingesteld.
Als de gebruiker vindt dat deze aanpassing niet aan de wensen van de gebruiker voldoet, kan hij ervoor kiezen om het abonnement op te zeggen en automatisch een terugbetaling te ontvangen op basis van de resterende tijd. De deadline voor terugbetaling is 20 juni, lokale tijd. Deze terugbetaling ondersteunt geen bewerkingen op de mobiele Claude-app.
▲Restitutie-e-mail ontvangen door internetgebruikers (Bron: X)
1. Claude begon terug te betalen, netizens zeiden: Er is geen weg meer terug
Veel internetgebruikers zeiden dat het terugbetalingsplan van Anthropic om de haastig uitgebrachte Fable 5 te verbieden veel bugs bevat. Een van de internetgebruikers zei dat Anthropic alle abonnementsdiensten van de gebruiker direct heeft stopgezet. Zijn eerdere inschrijvingsrechten, die vijf keer langer waren en geldig waren tot 19 juni, waren verdwenen, wat schandalig was.
Sommige internetgebruikers beweerden rechtstreeks dat Claude is geëlimineerd en dat er geen weg meer terug is.
Sommige internetgebruikers analyseerden dat de terugbetalingsoperatie van Anthropic ook bewijst dat Fable 5 niet snel terug zal komen.
Sommige internetgebruikers zeiden dat ze hun abonnement zouden opzeggen en zouden wachten op het nieuwe model van ChatGPT.
2. De Amerikaanse regering beweerde dat Anthropic belangrijke problemen vermeed en de beveiligingskwetsbaarheden in nieuwe modellen verzwakte.
Een woordvoerder van Amazon vertelde The Information dat het, als toonaangevende aanbieder van clouddiensten die een groot aantal klanten uit de particuliere en publieke sector bedient, niet ongebruikelijk is dat de Amerikaanse overheid Amazon om advies vraagt over mogelijke veiligheidsrisico's. Zelfs als er relevante communicatie plaatsvindt, zullen wij de specifieke inhoud van de onderhandeling niet openbaar maken.
De woordvoerder onthulde ook dat Amazon Cloud Technology ook is getroffen door het verbodsmodel van Anthropic. Op de ochtend van 13 juni heeft Amazon Cloud Technology de toegang tot Fable 5 en Mythos 5 in alle regio's ingetrokken.
De Information citeerde mensen die bekend waren met de zaak en zeiden dat Sean Cairncross, directeur van de Amerikaanse nationale cyberzaken, na gesprekken met Jassy en andere leiders van technologiebedrijven, vrijdag een bijeenkomst van hoge Amerikaanse overheidsfunctionarissen bijeenriep, waarop de beslissing werd genomen.Exportcontroles zijn het meest directe middel om actie te ondernemen tegen Anthropic.
Na de bijeenkomst sprak Dario Amodei, CEO van Anthropic, met Amerikaanse overheidsfunctionarissen. Tijdens de bijeenkomst legde Anthropic uit dat de zogenaamde jailbreakkwetsbaarheid blootgelegd werdDe drempel voor veiligheidsrisico's is niet te hoog, andere grote modellen hebben ook de mogelijkheid van soortgelijke problemen. De Amerikaanse regering heeft Anthropic echter laten weten dat het besluit om exportcontroles in te voeren is afgerond.
David Sacks, de voormalige AI-commissaris van Trump en huidige co-voorzitter van de President’s Council of Advisors on Science and Technology, plaatste enkele details op het sociale platform X.
Hij zei dat een betrouwbare partner, die zeer vertrouwd wordt door zowel Anthropic als de Amerikaanse overheid, het initiatief heeft genomen om een model-jailbreak-kwetsbaarheid bloot te leggen. En toen de Amerikaanse overheid Amodei vroeg om de kwetsbaarheid voor jailbreaks op te lossen, anders zou het model van de markt worden verwijderd, weigerde Amodei de kwetsbaarheid op te lossen.
Sacks vermeldde ook dat Anthropic in zijn officiële blog beweerde dat de kwetsbaarheid voor jailbreaks niet ernstig was. Noch de betrouwbare partner, noch de Amerikaanse regering waren het echter met deze verklaring eens. Deze verklaring waarin risico’s worden gebagatelliseerd, is ook in tegenspraak met de merkpositionering van Anthropic als AI-beveiligingsbedrijf.Momenteel hoopt de Amerikaanse regering dat Anthropic de veiligheidsproblemen zo snel mogelijk kan oplossen, de exportcontroles kan opheffen en het Fable 5-model opnieuw kan uitbrengen..
Bovendien vermeldde Anthropic in de blog waarin het verboden model werd aangekondigd, dat soortgelijke kwetsbaarheden zijn verschenen in andere openbare modellen. Een ambtenaar dicht bij de Amerikaanse regering vertelde The Information echter dat het onwaarschijnlijk is dat de Amerikaanse regering de exportbeperkingen op de geavanceerde modellen van Anthropic zal uitbreiden naar andere AI-bedrijven.
Amazon is een grote investeerder in Anthropic. Amazon maakte in april van dit jaar publiekelijk bekend dat het sinds 2023 13 miljard dollar (ongeveer 87,9 miljard RMB) in Anthropic heeft geïnvesteerd en van plan is in de toekomst nog eens 20 miljard dollar (ongeveer 135,3 miljard RMB) te investeren. De Trainium-chips van Amazon helpen bij het trainen en besturen van de grote modellen van Anthropic, die ook op de clouddiensten van Amazon draaien.
Het is vermeldenswaard dat Amazon dit jaar ook een grote investering heeft gedaan in Anthropic’s belangrijkste concurrent OpenAI, met de belofte er tot 50 miljard dollar in te investeren, en dat het voor het eerst het nieuwste model van OpenAI zal verbinden met Amazon Cloud Technology voor externe verkoop.
Een andere belangrijke achtergrond van het verbod van de Amerikaanse regering op het antropische model is dat de Amerikaanse regering twee weken geleden een uitvoerend bevel heeft uitgevaardigd om een vrijwillig nalevingsmechanisme te lanceren: AI-bedrijven kunnen modellen ter verificatie aan de overheid voorleggen voordat ze modellen vrijgeven aan partners en het publiek. Dit komt omdat er binnen de Amerikaanse overheid een debat is geweest over de vraag of er een licentiesysteem moet worden opgezet met hogere drempels en strengere controles voor AI-bedrijven die van plan zijn hoogwaardige grote modellen te lanceren. Dit uitvoeringsbevel is het product van dit spel.
Conclusie: het sterkste model van Anthropic werd stopgezet en de veiligheidsdrempel van de sector werd gedwongen omhoog te gaan?
Op 10 juni bracht Anthropic officieel twee grote modellen uit, Claude Fable 5 en Mythos 5. Ze behoren allebei tot het Mythos-niveau (mythe) en delen hetzelfde onderliggende model. Hun capaciteiten zijn hoger dan het Opus-niveau. Dit is ook het krachtigste en krachtigste grote modelniveau van Anthropic tot nu toe.
Tijdens dezelfde releaseperiode ontwierp Anthropic opzettelijk hiërarchische openheid en ingebouwde routering voor beveiligingsdowngrades. Oorspronkelijk wilde het een evenwicht vinden tussen sterke capaciteiten en risicobeheer en -controle, maar het slaagde er nog steeds niet in de ketenimpact te weerstaan die werd veroorzaakt door verborgen beveiligingskwetsbaarheden. Binnen een paar dagen werden twee vlaggenschipmodellen stilgelegd. Dit kan betekenen dat voordat er in de toekomst nieuwe modellen worden gelanceerd, beveiligingstests met betrekking tot diepgaande aanvals- en verdedigingsverificatie door een onafhankelijk rood team van een derde partij een harde drempel kunnen worden.