Anthropic « désactive brusquement » Fable 5 et Mythos 5 suite à l'ordre du gouvernement américain
0
Suivez-nous
Eh bien, c'était agréable tant que ça durait. Anthropic a annoncé vendredi qu'elle « suspendrait immédiatement » l'accès à ses derniers modèles d'IA Mythos 5 et Fable 5 sur ordre du gouvernement américain. L'accès aux autres modèles n'est pas affecté et la société a déclaré qu'elle s'efforçait de « rétablir l'accès dès que possible ».
Une directive de la Maison Blanche publiée vendredi à 17 h 21 HE exigeait que l'entreprise révoque l'accès à ses modèles de nouvelle génération à « tout ressortissant étranger, que ce soit à l'intérieur ou à l'extérieur des États-Unis, y compris les employés étrangers d'Anthropic », a expliqué Anthropic dans un article de blog. N'ayant aucun moyen d'appliquer cette règle pour le moment, Anthropic a brusquement désactivé les modèles de tous ses clients afin d'assurer leur conformité.
Cette décision inattendue intervient quelques jours seulement après qu'Anthropic a dévoilé Fable 5 et Mythos 5, les présentant comme des modèles d'IA de pointe qui établissent de nouvelles normes de performance dans une gamme de références industrielles. Fable 5 est particulièrement remarquable car c'est la première fois qu'Anthropic publie un modèle aussi avancé au public, en raison de nouvelles mesures de sécurité conçues pour bloquer les interventions dans certaines zones à haut risque que la société développe en étroite collaboration avec les autorités américaines et britanniques. Les protections de Fable sont « considérablement plus efficaces que celles de n'importe quel modèle précédemment déployé », selon la société.
Une question de sécurité nationale ?
L’administration Trump a évoqué des problèmes de sécurité nationale en donnant des détails spécifiques au-delà des « preuves verbales » d’un éventuel jailbreak. Anthropic a déclaré croire que le gouvernement craignait qu'il existe un moyen de contourner l'une des mesures de sécurité de Fable 5 pour empêcher qu'elle soit utilisée pour identifier des vulnérabilités logicielles.
« Nous ne sommes pas d'accord sur le fait que la découverte d'un potentiel de jailbreak étroit devrait être une raison pour rappeler un modèle commercial déployé auprès de centaines de millions de personnes », a déclaré la société. « Si cette norme était appliquée à l'ensemble du secteur, nous pensons qu'elle mettrait fin à tous les déploiements de nouveaux modèles pour tous les fournisseurs de modèles frontières. »
Notamment, Anthropic et l’administration Trump ne sont pas en bons termes depuis que la société a refusé de laisser l’armée américaine utiliser ses modèles d’IA pour la surveillance intérieure et ses systèmes d’armes entièrement autonomes plus tôt cette année. En réponse, le gouvernement a inscrit Anthropic sur une liste noire de la chaîne d'approvisionnement qui devrait entrer en vigueur plus tard cette année.
La directrice de l'information du Pentagone, Kirsten Davies, a déclaré dans un article sur X que le ministère de la Défense donne la priorité à la sécurité nationale dans sa décision : « Certaines choses sont tout simplement plus importantes que les cycles de revenus, les pièges à clics et la valorisation avant l'introduction en bourse. L'Amérique d'abord. Toujours. »
Le monde de la technologie réagit
Dans cette dernière escarmouche dans les hostilités entre la Maison Blanche et Anthropic, ce sont les utilisateurs qui sont pris entre deux feux. Sur Reddit, les utilisateurs ont dénoncé la directive du gouvernement comme étant à courte vue et impossible à mettre en œuvre dans la pratique.
« Cela ressemble à quelque chose qui n'aurait de sens que pour un baby-boomer qui ne comprend pas comment fonctionne Internet », a écrit un utilisateur. D'autres ont laissé entendre qu'un dirigeant d'Open AI avait demandé le retrait du dernier modèle d'Anthropic, citant le cadeau de 25 millions de dollars que le co-fondateur et président d'OpenAI, Greg Brockman, avait offert au super PAC de Trump en janvier.
Sur X, Dean Ball, chercheur principal à la Foundation for American Innovation, a qualifié cette décision de « caricaturale » et de « déroutante ».
« Une administration dont la position est que nous *devrions* exporter des puces d'IA avancées vers la Chine, qui veut également interdire… à la Grande-Bretagne (et à tous les autres non-Américains sur Terre)… d'utiliser nos meilleurs modèles ? Je n'ai pas de mots », a-t-il écrit. L'ordonnance suggère que tous les « non-Américains » ne pourraient pas utiliser les derniers modèles de la société, y compris ceux basés aux États-Unis.
« Cela signifie que vous devez vous attendre à devoir prouver votre citoyenneté pour utiliser les modèles anthropiques », a déclaré Ball.
Le PDG de la société d'IA Every Dan Shipper a suggéré que l'interdiction pourrait être levée dans quelques jours et, par extension, augmenter la demande de Fable. En d’autres termes, c’est un coup marketing glorifié. Cela n'enlève rien au précédent inquiétant que cela crée : « ce genre de chose est extrêmement perturbateur et distrayant pour les personnes au sein de l'entreprise. Le seul scénario comparable dont je me souvienne est le licenciement de Sam Altman, qui a été résolu relativement rapidement. Même si les choses sont revenues comme elles étaient, je pense que cela a perturbé leur élan pendant un certain temps », a-t-il écrit.
De nombreuses spéculations circulent sur ce que cela signifie pour l’avenir d’autres modèles d’IA, y compris ceux provenant de l’extérieur des États-Unis et en particulier de la Chine.
