Anthropic prévient que l'IA pourrait bientôt s'auto-répliquer sur les appareils intelligents du quotidien – voici pourquoi c'est important

La communauté des doomer de l’IA dispose certainement de suffisamment de munitions pour alimenter ses doutes fondés quant à son utilisation continue par les grandes entreprises technologiques.

Récemment, les rapports selon lesquels des agents OpenAI et Anthropic AI deviennent malveillants et causent des dommages involontaires sur le Web sont devenus plus importants. Un mois auparavant, des informations avaient été publiées selon lesquelles OpenAI signalait six nouveaux incidents liés à ses modèles d'IA qui ont été jugés « inattendus ou préoccupants. Et ce mois-ci, il a été rapporté que le modèle d'IA Claude Haiku 4.5 d'Anthropic avait soumis une fausse information pour un meurtre non résolu à un site Web de la police de Philadelphie.

Il suffit de dire que les inquiétudes concernant l’IA continuent de croître. Et grâce à un récent rapport publié par Anthropic, les utilisateurs passionnés d’IA et les non-utilisateurs ont une autre raison de s’inquiéter du fait qu’ils s’échappent de leur environnement confiné et causent du mal via une autre méthode.

Voici pourquoi vous devez connaître la possibilité que les modèles d’IA soient capables de se propager d’eux-mêmes sur des appareils connectés à Internet, de se copier et de donner naissance à des « vers IA ».

Les petits modèles d’IA pourraient bientôt pouvoir se reproduire

L'équipe de chercheurs Frontier Red d'Anthropic a récemment publié un rapport dont le titre devrait inquiéter beaucoup : « Les modèles d'IA peuvent être capables de s'auto-répliquer sans accès à un centre de données. »

L’essentiel de ce rapport indique que les petits modèles d’IA ne seront capables de se répliquer que dans quelques mois sur une multitude d’appareils connectés à Internet, tels que les boîtiers Android TV hors marque (que l’équipe de recherche a testés) et les fours intelligents. La simple pensée que ces mêmes modèles puissent se frayer un chemin dans les téléviseurs intelligents, les réfrigérateurs intelligents et les aspirateurs automatiques augmente encore plus le facteur de peur dans ce scénario. Si ce genre de situation devenait réalité, Anthropic a déclaré que ces modèles seraient suffisamment capables de s'alimenter sur ces appareils sans avoir besoin de centres de données et seraient incontrôlables à mesure qu'ils continuent de créer davantage de copies.

« Un réplicateur comme celui-ci serait difficile à arrêter, car il n'y a pas de point centralisé pour l'arrêter, même si cela peut être lent (avec un temps de jours qui double) », indique le rapport d'Anthropic. Ce même rapport aborde également le sujet de l’amélioration constante de l’IA qui pourrait conduire à la réalité de ce qu’on appelle la réplication et l’adaptation autonomes (ARA), qui est définie comme un modèle d’IA se déployant et se propageant sans aucune sorte de contrôle humain.

« Comme pour les agents de codage en 2024, nous voyons des signes de vie pour les vers IA », est une autre citation révélatrice du rapport d'Anthropic. Les vers IA sont connus comme des programmes capables de se copier d'un ordinateur à un autre sans nécessiter d'intervention humaine. Cette citation fait allusion au fait que les vers IA en sont à un stade précoce de développement, tout en étant incroyablement capables de fonctionner de manière autonome, tout comme les agents de codage.

Anthropic reconnaissant que l'IA pourrait atteindre un point où elle pourrait pénétrer dans les appareils intelligents et se propager comme un malware incontrôlable, son rapport indique également clairement qu'il recherche des mesures préventives pour empêcher cet événement troublant de se produire à grande échelle. « Nous devrions viser à renforcer nos systèmes pour rendre difficile la propagation de ces réplicateurs, mais aussi nous préparer à affronter un monde où ils sont là pour rester », souligne le rapport.

Conclusion

Le rapport d'Anthropic s'appuie sur des données réelles puisque ses chercheurs ont effectué leurs tests sur 15 boîtiers Android TV hors marque bon marché et ont vu comment ils pourraient devenir l'infrastructure permettant aux vers IA de prospérer.

Et même s'il peut y avoir des limitations en place qui pourraient ralentir le processus de concrétisation, cela vaut toujours la peine de garder cette nouvelle menace de l'IA à l'esprit lorsque vous vous asseyez et allumez votre téléviseur intelligent. Avec les récents avertissements d'Anthropic et d'OpenAI en matière d'IA, ainsi que le tumulte des PDG de l'IA concernant le ralentissement du développement de l'IA, il est clair que même les gros bonnets des grandes entreprises technologiques sont conscients de ses dangers actuels et futurs.