Le PDG d'Anthropic vient d'avertir tout le monde que le prochain grand risque de l'IA pour l'humanité réside « en fait dans les entreprises d'IA elles-mêmes ».

À mesure que l’IA devient exponentiellement plus intelligente et que les chatbots s’intègrent dans notre vie quotidienne, l’enthousiasme du public a de plus en plus cédé la place à autre chose : le malaise.

Depuis des années, la culture pop nous met en garde contre ce qui pourrait arriver si des machines puissantes n’étaient pas contrôlées. Des films comme « The Terminator, 2001 : L'Odyssée de l'espace », « Blade Runner » et « The Matrix » explorent tous les variations de la même peur : l'IA qui s'en prend à ses créateurs, manipule le comportement humain ou s'ancre si profondément dans la vie quotidienne que la société ne peut plus fonctionner sans elle.

Ces angoisses ne vivent plus uniquement sur les écrans de cinéma.

Dans un essai de 38 pages récemment publié et partagé sur son site Web, le PDG d'Anthropic, Dario Amodei, dresse une liste qui donne à réfléchir sur les risques que l'IA avancée pourrait poser si elle n'est pas contrôlée. Son avertissement ne concerne pas seulement les machines malveillantes ou les scénarios de science-fiction. L’un des dangers les plus urgents, affirme-t-il, pourrait provenir des entreprises mêmes qui se précipitent pour construire et déployer des systèmes d’IA.

Dario Amodei désigne les entreprises derrière l'IA qui constituent une menace imminente

L’un des avertissements les plus frappants lancés par Amodei ne concerne pas le caractère voyou de l’IA, mais plutôt le pouvoir croissant des entreprises qui la construisent.

« C'est quelque peu gênant de dire cela en tant que PDG d'une société d'IA », écrit Amodei, « mais je pense que le prochain niveau de risque concerne en fait les sociétés d'IA elles-mêmes. »

Il souligne l’ampleur de l’influence que ces entreprises détiennent désormais. Les sociétés d’IA contrôlent d’énormes centres de données, forment les modèles les plus avancés et possèdent une expertise inégalée dans la manière dont ces systèmes sont utilisés. Plus inquiétant encore, certains d’entre eux interagissent quotidiennement avec des dizaines, voire des centaines, de millions d’utilisateurs.

Ce genre de portée comporte un risque réel. Amodei prévient que les sociétés d’IA pourraient théoriquement utiliser leurs produits pour manipuler ou « laver le cerveau » des utilisateurs à grande échelle, arguant que la gouvernance des sociétés d’IA mérite un examen public bien plus minutieux qu’elle n’en reçoit actuellement.

Ces préoccupations semblent de plus en plus urgentes alors que la surveillance gouvernementale peine à suivre le rythme. L’idée selon laquelle de puissantes sociétés d’IA pourraient façonner le comportement du public grâce à des chatbots et des outils grand public ne semble plus exagérée – et l’absence de réglementation claire ne fait qu’accroître cette anxiété.

L’empreinte physique de l’IA fait déjà sentir sa présence. Les centres de données se sont rapidement développés aux États-Unis, entraînant des conséquences inattendues pour les communautés voisines. Ces installations consomment d’énormes quantités d’électricité et d’eau, exercent une forte pression sur les réseaux électriques locaux et, dans certaines régions, sont liées à des conditions environnementales qui, selon les habitants, rendent l’air plus difficile à respirer.

En conséquence, les protestations contre les nouveaux centres de données IA sont de plus en plus fréquentes – un rappel que l’impact de l’IA n’est pas seulement numérique. C'est un problème physique, environnemental et de plus en plus difficile à ignorer.

Des manifestations récentes ont éclaté en Caroline du Nord, en Pennsylvanie et en Virginie, et une communauté du Wisconsin cherche à expulser son maire après qu'il a approuvé la construction d'un centre de données là-bas.

Il a également fait allusion aux autres menaces que l’IA pourrait surgir à l’avenir.

Dans le reste de son essai plein de prudence, Amodei évoque une multitude d’autres dangers que l’IA pourrait présenter à l’avenir. Parmi ceux-ci figurent la montée du nombre de terroristes utilisant l’IA pour mener leurs attaques, une augmentation colossale du taux de pertes d’emplois et le fait que les dirigeants gouvernementaux sont dissuadés de s’exprimer sur ces problèmes en raison du pouvoir et de l’argent qu’apporte le soutien à l’IA.

Sur ce dernier point, Amodei a déclaré ceci : « Il y a tellement d’argent à gagner avec l’IA – littéralement des milliards de dollars par an. C’est là le piège : l’IA est si puissante, une récompense si brillante, qu’il est très difficile pour la civilisation humaine de lui imposer la moindre restriction. »

Amodei a présenté une solution qui pourrait contenir la croissance rapide de l'IA

Amodei n'a pas seulement présenté les problèmes potentiels qui pourraient survenir avec le développement rapide de l'IA à l'avenir, mais il a également évoqué l'une des solutions qui pourraient empêcher leur apparition. Il a souligné l'élément millionnaire et milliardaire, qui pourrait utiliser son pouvoir et son influence pour faire le bien au lieu d'adopter une attitude nonchalante.

« Les individus riches ont l'obligation d'aider à résoudre ce problème », a souligné Amodei. « Je trouve triste que de nombreuses personnes fortunées (en particulier dans l'industrie technologique) aient récemment adopté une attitude cynique et nihiliste selon laquelle la philanthropie est inévitablement frauduleuse ou inutile. »

Conclusion

Bien que l’IA ait entraîné des changements positifs dans la société (aider les travailleurs de la santé, personnaliser l’éducation et faciliter la vie quotidienne grâce à l’essor des assistants intelligents), de nombreux changements négatifs ont surgi en masse. Il est rassurant de voir le PDG d’une des principales sociétés d’IA faire sa part pour sensibiliser tout le monde au sombre avenir auquel nous sommes confrontés si l’IA n’est pas réglementée.

Le commentaire marquant d'Amodei dans son essai est un appel à l'action pour nous tous : L'essentiel : « L'humanité a besoin de se réveiller, et cet essai est une tentative – peut-être futile, mais cela vaut la peine d'essayer – de réveiller les gens. Les années qui nous attendent seront incroyablement difficiles, exigeant de nous plus que ce que nous pensons pouvoir donner.