Amper enkele dagen na de lancering van Claude Fable 5 en Claude Mythos 5 heeft Anthropic de toegang tot beide AI-modellen opgeschort. Aanleiding is een exportmaatregel van de Amerikaanse overheid, die het bedrijf verplicht om de modellen ontoegankelijk te maken voor buitenlandse gebruikers.
De beslissing komt onverwacht en treft niet alleen klanten buiten de Verenigde Staten. Ook buitenlandse staatsburgers die zich binnen de VS bevinden, evenals buitenlandse werknemers van Anthropic zelf, vallen onder de beperkingen.
Claude Fable 5 en Claude Mythos 5 werden vorige week nog voorgesteld als de nieuwste generatie AI-modellen van Anthropic. Fable 5 was gericht op een breed publiek en legde de nadruk op veiligheid en gecontroleerde interacties. Mythos 5 richtte zich dan weer op meer gespecialiseerde toepassingen, waaronder programmeren, cybersecurity en onderzoekswerk.
Volgens Anthropic bevat de overheidsrichtlijn weinig details over de precieze reden voor de ingreep. Het bedrijf vermoedt echter dat de maatregel verband houdt met een mogelijke jailbreaktechniek voor Claude Fable 5. Bij zo’n jailbreak proberen gebruikers ingebouwde veiligheidsmaatregelen van een AI-model te omzeilen om antwoorden te verkrijgen die normaal worden geblokkeerd.
Anthropic benadrukt dat er geen sprake zou zijn van een universele methode om de beveiliging van Fable 5 te doorbreken. Volgens het bedrijf gaat het hoogstens om een beperkt probleem dat slechts onder specifieke omstandigheden zou kunnen optreden. Om zeker te voldoen aan de opgelegde regels heeft Anthropic voorlopig de toegang tot beide modellen wereldwijd uitgeschakeld. Daardoor kan momenteel niemand nog gebruikmaken van Claude Fable 5 of Claude Mythos 5.
Het AI-bedrijf benadrukt dat de modellen voor hun lancering uitgebreid werden getest. Daarbij waren niet alleen interne onderzoekers betrokken, maar ook externe veiligheidsorganisaties, overheidsinstanties en het Britse AI Safety Institute. Volgens Anthropic werden duizenden uren besteed aan het evalueren van mogelijke risico’s en misbruikscenario’s. Vooral Fable 5 kreeg extra beveiligingsmaatregelen mee om te voorkomen dat het model ingezet zou kunnen worden voor cyberaanvallen of andere schadelijke activiteiten. Tijdens uitgebreide red-teamtests zou bovendien geen algemene methode zijn ontdekt om de beschermingsmechanismen te omzeilen.
Voor gebruikers verandert er voorlopig weinig aan de beschikbaarheid van oudere Claude-modellen. Die blijven gewoon toegankelijk en vallen niet onder de exportbeperkingen. Anthropic waarschuwt wel voor de bredere gevolgen van dergelijke maatregelen. Als AI-bedrijven modellen moeten terugtrekken vanwege theoretische of beperkt aangetoonde kwetsbaarheden, kan dat volgens het bedrijf de ontwikkeling en uitrol van geavanceerde AI-systemen aanzienlijk vertragen.
De tijdelijke blokkering volgt bovendien kort op een ander incident rond Claude Fable 5. Eerder zou Microsoft de toegang tot het model voor eigen medewerkers hebben beperkt vanwege vragen rond aangepaste gegevensbewaarregels van Anthropic. Dat dossier staat volgens beide bedrijven echter los van de huidige overheidsmaatregel. Anthropic zegt ondertussen nauw samen te werken met de Amerikaanse autoriteiten om de situatie op te helderen en de toegang tot Claude Fable 5 en Claude Mythos 5 zo snel mogelijk te herstellen. Wanneer dat precies zal gebeuren, is voorlopig nog niet bekend.
Schrijf je in op onze nieuwsbrief en ontvang elke week het beste van Clickx in je mailbox.
Krijg Clickx magazine 10 keer per jaar (waarvan 2 extra dikke dubbelnummers) keurig thuisbezorgd.
