L’horloge de la fin du monde a été maintenue à minuit moins 90 secondes pour la deuxième année consécutive, ce qui suggère que l’humanité est au bord de l’autodestruction et que l’IA pourrait en être la cause.

Le Bulletin of Atomic Scientists est le groupe d’experts du monde entier à l’origine du réglage de l’horloge, utilisé depuis 75 ans pour signaler le potentiel de destruction humaine.

Le groupe affirme que la menace de désinformation et de perturbations liées à l’IA, l’utilisation militaire accrue de la technologie et sa capacité à amplifier d’autres menaces la placent sur la liste des principaux facteurs de risque.

Les plus grandes menaces proviennent des inquiétudes croissantes concernant l’utilisation potentielle d’armes nucléaires, la guerre biologique et l’impact du changement climatique.

Ce n’est pas que de mauvaises nouvelles puisque les experts de Doomsday Clock affirment également que si elle est correctement réglementée et utilisée, l’IA pourrait avoir un impact positif significatif sur la sécurité de l’humanité.

Qu'est-ce que l'horloge de la fin du monde et pourquoi est-elle proche de minuit ?

L'horloge de la fin du monde a été créée par des scientifiques impliqués dans le projet Manhattan, le groupe de recherche américain qui a conduit à la première bombe atomique.

Sur la couverture d'un magazine de 1947 intitulé Bulletin of Atomic Scientists, la première horloge de la fin du monde était réglée à minuit moins sept. Il a bougé 25 fois au cours des 77 dernières années et l'année dernière, il a été réglé pour la première fois à minuit moins 90 secondes.

De multiples raisons expliquent la décision de maintenir le délai de destruction à moins de deux minutes, parmi lesquelles les guerres à Gaza et en Ukraine, l’augmentation du financement des puissances nucléaires pour leurs programmes d’armes nucléaires et le risque de changement climatique.

Rachel Bronson, PhD, présidente-directrice générale du Bulletin, a déclaré : « Ne vous y trompez pas : réinitialiser l'horloge à 90 secondes avant minuit n'est pas une indication que le monde est stable. Plutôt l'inverse. »

« Il est urgent que les gouvernements et les communautés du monde entier agissent. Et le Bulletin reste plein d'espoir – et d'inspiration – en voyant les jeunes générations prendre la tête du peloton », a-t-elle ajouté.

Qu’est-ce qui fait de l’IA une si grande menace pour l’humanité ?

Comme toute technologie, l’IA est aussi dangereuse que les personnes qui l’utilisent. Cependant, il s'agit de l'un des développements technologiques les plus importants de l'année dernière et a été largement adopté par les gouvernements, l'industrie et l'éducation avant qu'une réglementation significative puisse être introduite.

Les experts du Bulletin avertissent que l’IA a un grand potentiel pour « amplifier la désinformation et corrompre l’environnement informationnel nécessaire pour résoudre les grands problèmes mondiaux et dont dépend la démocratie ». Suggérer cela pourrait rendre plus difficile la gestion des risques nucléaires, biologiques ou autres.

Nous constatons également une utilisation militaire accrue de l’IA à des fins de renseignement, de surveillance, de reconnaissance, de simulation et de formation. Il est également déployé dans des armes capables d’identifier des cibles sans intervention ni contrôle humain.

C'est là que les scientifiques du Bulletin voient le plus grand risque. « Les décisions visant à confier à l’IA le contrôle de systèmes physiques importants – en particulier les armes nucléaires – pourraient en effet constituer une menace existentielle directe pour l’humanité », préviennent-ils.

Est-ce une mauvaise nouvelle pour l’humanité et les développeurs d’IA ?

Si l’IA a été répertoriée comme une menace pour l’humanité, elle a également été considérée comme une opportunité pour l’humanité de se retirer du jeu et d’éloigner l’horloge de minuit.

Les pays et les entreprises commencent à comprendre la nécessité de réglementer l’IA et prennent des mesures pour réduire les risques de préjudice. Cela inclut de nouveaux cadres pour son utilisation sûre de la part de l’Union européenne et de l’administration Biden aux États-Unis.

L’équipe du Bulletin suggère également qu’à mesure que les pays coopèrent pour lutter contre la menace de l’IA par le biais de traités internationaux et de nouveaux organismes des Nations Unies, cela réduira d’autres facteurs de risque tout en faisant parler le monde.

Bill Nye, qui a participé à l’annonce de l’horloge de la fin du monde en 2024, a déclaré : « Depuis des décennies, les scientifiques nous mettent en garde contre les dangers auxquels l’humanité est confrontée. Nous pourrions être confrontés à une catastrophe si nous ne gérons pas mieux les technologies que nous avons créées. Il est temps d'agir.