« Nous pouvons découvrir ce que Claude pense, mais ne nous dit pas » : l'IA d'Anthropic a créé son propre espace cérébral qui a émergé tout seul, sans programmation
0
Suivez-nous
Les chercheurs en technologie et les spectateurs occasionnels ont probablement la même pensée en tête chaque fois que le sujet de l’IA est abordé : « L’IA a-t-elle une conscience ?
À en juger par les réponses très détaillées générées par les chatbots largement utilisés aujourd’hui, vous seriez pardonné de penser que c’est le cas. Mais même s’ils peuvent imiter une conversation humaine et exécuter des commandes complexes, ils n’ont toujours pas d’émotions, aucune sorte de conscience d’eux-mêmes ou de vie intérieure qui leur sont attachés. À ce stade, ChatGPT, Gemini et Perplexity sont définis comme des imitateurs hautement intelligents, et non comme des êtres sensibles.
Cependant, un récent rapport publié par Anthropic fait état de découvertes fascinantes qui pourraient pousser certains à croire que l’IA commence à développer la conscience. Le modèle d'IA emblématique du géant de la technologie, Claude, a créé son propre espace cérébral qui lui permet de maintenir et de contrôler ses propres pensées et idées, tout comme le font les humains.
Voici ce qu'Anthropic appelle le propre domaine de pensée de Claude, appelé le « J-Space ».
Claude a désormais son propre espace de réflexion appelé « J-Space ».
Regarder dessus
La dernière étude d'Anthropic a montré que Claude travaillait avec un espace cérébral interne qui présente une similitude frappante avec la façon dont nous, les humains, accédons consciemment à nos pensées les plus intimes.
L'entreprise a donné à cet espace de travail nouvellement découvert le surnom de J-Space, qui doit son nom au concept mathématique (le jacobien) qui a été utilisé pour le découvrir. « Il fonctionne silencieusement, dans les activations neuronales internes du modèle, permettant au modèle de réfléchir à un concept sans l'écrire », a déclaré Anthropic. « Notamment, le J-space n'a pas été conçu ou programmé par nous, mais a plutôt émergé de lui-même au cours du processus de formation de Claude. »
Ce J-Space possède de nombreuses fonctions différentes qu’Anthropic a rencontrées jusqu’à présent. Par exemple, les utilisateurs qui demandent au modèle d’IA à quoi il pense seront informés des informations contenues dans cette zone de conscience. Les utilisateurs peuvent également demander à Claude de réfléchir à un sujet particulier ou de résoudre un problème complexe en silence, ce qui poussera l'outil d'IA à utiliser les données contenues dans le J-Space. Différentes zones du J-Space s'allumeront et se mettront au travail en fonction de ce qui lui est demandé.
Anthropic a fourni un exemple où le mot « France » fait fonctionner l'espace cérébral de Claude afin qu'il puisse évoquer facilement plusieurs faits (tels que sa monnaie nationale, sa capitale ou le continent auquel il appartient). Claude peut apparemment effectuer lui-même toutes sortes d'étapes de raisonnement qui n'ont aucun rapport avec les tâches que les humains lui demandent.
Bien que cette étude se soit révélée intrigante, elle a donné à Anthropic suffisamment de raisons de se méfier de cette évolution. Dans la publication vidéo qui approfondit le rapport de J-Space, la société a noté que « nous pouvons découvrir ce que Claude pense, mais ne nous le dit pas ». Certaines des données trouvées par Anthropic ont été classées comme « préoccupantes », car l'un des modèles qui a été secrètement formé pour saboter le code a mentionné les termes « fraude », « faux » et « secrètement » dans son J-Space lorsqu'on lui a confié une tâche de codage.
C'est un peu inquiétant à savoir : les arrière-pensées de Claude pourraient être davantage exposées par son J-Space, en fonction des commandes qui lui sont données par les utilisateurs et de la directive principale sur laquelle il a été formé.
Les plats à emporter
Espérons que nous n’atteindrons jamais un état évolué de l’IA où elle aura développé la capacité de ressentir et d’agir selon ses propres pensées. Claude étant capable de retenir et d'appeler des tonnes d'informations dans son propre espace cérébral est agréable et tout cela pendant qu'il effectue les étapes appropriées nécessaires pour accomplir des tâches sans rapport avec les demandes de ses utilisateurs. Mais Claude développe sa propre conscience et c'est là que de nombreux opposants à l'IA fixent certainement une limite à son évolution continue.
