Anthropic PBC, dat zich al jaren meer richt op de veiligheid van kunstmatige intelligentie dan zijn collega's, heeft nu zijn toewijding aan zijn 'veiligheidsrails' versoepeld. Dit is een van de meest dramatische beleidsverschuivingen in de AI-industrie tot nu toe, en het weerspiegelt ook dat een groep startups die zich ooit concentreerden op het helpen van mensen hun aandacht richten op winst en succes.
In het in 2023 uitgebrachte ‘Responsible Expansion Policy’ verklaarde het bedrijf dat het de ontwikkeling van AI die gevaar kan opleveren, zal uitstellen. Maar Anthropic heeft zijn regels bijgewerkt in een blogpost die dinsdag is gepubliceerd en zegt dat het dit niet langer zal doen als het bedrijf denkt dat het geen significant voordeel heeft ten opzichte van zijn concurrenten.
Anthropic schreef in het artikel: "Het beleidsklimaat is verschoven naar het prioriteren van AI-concurrentievermogen en economische groei, terwijl op federaal niveau de veiligheidsgerichte discussies nog geen substantieel momentum hebben gekregen."
De aanpassing komt als een verrassing omdat Anthropic zich al lang probeert te onderscheiden van zijn collega's op het gebied van veiligheid, terwijl het concurreert met OpenAI, Alphabet's Google en Elon Musk's xAI om dominantie in wat velen beschouwen als een revolutionaire nieuwe technologie. Anthropic CEO Dario Amodei, die eerder bij OpenAI werkte, verliet het bedrijf gedeeltelijk vanwege zorgen dat OpenAI zich meer op commercialisering en snelheid richtte dan op beveiliging.
Beide bedrijven dringen er nu op aan om dit jaar al naar de beurs te gaan om te profiteren van het enthousiasme van investeerders voor AI. Anthropic werd onlangs gewaardeerd op $380 miljard, terwijl OpenAI financiering ophaalde voor een waardering van meer dan $850 miljard.
Een woordvoerder van Anthropic zei: "Vanaf het begin hebben we gezegd dat de snelheid van de AI-ontwikkeling en de onzekerheid in het veld vereisen dat we het beleid snel herhalen en verbeteren."
Eerder deze maand zei senior veiligheidsonderzoeker Mrinank Sharma dat hij Anthropic zou verlaten. “Ik blijf de balans opmaken van de situatie waarin we ons bevinden”, schreef hij in een brief aan collega’s op het sociale platform X.
‘De wereld is in gevaar’, schreef hij, ‘en niet alleen door AI of biologische wapens, maar ook door een reeks onderling verbonden crises die zich momenteel voordoen.’