J'utilise l'IA tous les jours pour mon travail, car elle m'aide à réfléchir plus rapidement, à penser plus clairement et à tester des idées. À ce stade, j’ai l’impression d’être un assistant sur lequel je peux m’appuyer à tout moment.

Alors, quand j'ai vu que le développeur Wes Bos avait fouillé dans le code source de Claude et trouvé quelque chose d'inattendu, j'ai pensé qu'il s'agirait d'une avancée complexe dans la cartographie neuronale.

L'article continue ci-dessous

La découverte « razzmatazzing »

Selon Bos, il a découvert 187 verbes codés en dur cachés dans le code d'un système d'IA, y compris des mots comme : « Hullaballooing » et « Razzmatazzing ». Sérieusement, à quel point ces mots sont-ils géniaux ?

Mais ces mots idiots ne sont pas des « hallucinations » ou des élans créatifs issus d’un grand modèle linguistique (LLM). Il s’agissait de variantes pré-écrites – essentiellement une liste de mots interchangeables que le système extrait d’une étagère pour éviter de paraître répétitifs pendant que vous attendez une réponse.

Essentiellement, certaines des parties les plus « humaines » de l’IA ne sont pas générées à la volée. Ils sont choisis à partir d'un scénario.

De toute façon, que sont les « mots Spinner » ?

Personne tapant sur un ordinateur portable dans une pièce faiblement éclairée

Si vous n’avez jamais entendu le terme, le concept est simple. Pour empêcher un utilisateur de s'ennuyer ou de remarquer un modèle, un système échange différentes phrases à partir d'une liste prédéfinie. Au lieu que l'IA dise toujours « Traitement… », elle peut alterner entre :

Mais ce n’est pas une question d’intelligence, c’est purement de la conception de produits.

Et à première vue, « razzmatazzing » ressemble à un œuf de Pâques original. Mais cela souligne une réalité que nous oublions souvent : l’IA n’est pas un seul « esprit », c’est un gâteau en plusieurs couches.

Lorsque vous utilisez un outil comme ChatGPT ou Claude, vous interagissez avec :

  • Le LLM : Le véritable « cerveau » qui prédit le mot suivant.
  • Les garde-corps : Des filtres de sécurité qui empêchent l’IA de dérailler.
  • Le wrapper UI/UX : La couche « personnalité » où vivent les mots tournants.

Les mots tournants existent pour donner à l'IA une sensation plus humaine, car ils donnent l'illusion d'effort et de personnalité pendant que le processeur lui-même fait le gros du travail en arrière-plan.

Enfouie dans la même découverte se trouvait quelque chose de bien plus révélateur : un système d'analyse qui enregistre votre invite comme « négative » lorsque vous l'insultez.

Le système ne se contente pas de générer du texte ; il suit silencieusement des signaux tels que :

  • Frustration: Utilisation de grossièretés ou de verrouillage des majuscules.
  • Insatisfaction: Dire explicitement à l'IA « C'est faux ».
  • Réponses échouées : Lorsqu'un utilisateur doit régénérer une réponse plusieurs fois.

Lorsque vous tapez quelque chose avec colère, cela est signalé. Non pas pour vous « punir », mais pour mesurer où le produit échoue. Cela nous rappelle que même si l'IA vous aide à travailler, vous êtes également un point de données qui aide l'IA à devenir « meilleure » – ou du moins, plus convaincante. C'est pourquoi lorsque vous cessez d'être poli envers un chatbot, vous obtiendrez peut-être de meilleures réponses.

L'essentiel

Ce que cette découverte signifie pour moi, c'est que je me demande si cela a été généré ou si cela a été choisi en fonction de la façon dont cela a été provoqué ? Depuis que j’ai vu cette découverte, je me suis retrouvé à utiliser l’IA de manière plus intentionnelle.

L’IA semble humaine pour une raison. Ce n'est pas seulement parce que les mathématiques deviennent plus intelligentes ; c'est parce que l'interface a été soigneusement conçue pour paraître pertinente. Parfois, cela signifie un raisonnement avancé qui change le monde, mais parfois, cela signifie simplement une liste cachée de mots destinés à vous faire sourire pendant que les engrenages tournent.

Google Actualités