La plupart d'entre nous savent que ChatGPT n'est pas parfait. Il peut halluciner des faits, inventer des citations avec assurance et parfois donner des réponses complètement incorrectes. Mais une nouvelle étude m’a amené à me demander si le plus gros problème n’était pas de savoir si l’IA se trompait, mais plutôt de savoir comment l’IA pourrait changer notre façon de penser critique.

Les chercheurs ont découvert que lorsque les gens comptaient sur un assistant IA pour répondre à des questions difficiles, ils étaient beaucoup moins susceptibles d'admettre qu'ils ne connaissaient pas la réponse. Plus surprenant encore, ils sont devenus beaucoup plus confiants dans leurs réponses, même lorsque l’IA les a conduits directement à une erreur.

Cela nous touche un peu trop près. J'utilise ChatGPT tout le temps comme partenaire de brainstorming, assistant de recherche et caisse de résonance. J’ai donc décidé de recréer l’expérience moi-même pour voir si j’étais tranquillement tombée dans la même habitude.

Dernières vidéos de
Regardez la vidéo complète ici :

Les résultats n’étaient pas exactement ceux que j’attendais.

Ce que l’étude a révélé

Des chercheurs de l’Université Carnegie Mellon et de Microsoft Research ont conçu une expérience autour d’une question simple : que se passe-t-il lorsque les gens consultent l’IA au lieu de se fier à leur propre jugement ?

Pour le savoir, ils ont intentionnellement utilisé des questions auxquelles l’IA était susceptible de répondre de manière incorrecte. Les participants pouvaient choisir l'une des trois options suivantes :

Répondre tout seul

Demandez de l'aide à l'IA

Dis: « Je ne sais pas »

Sans l’IA, les participants ont admis qu’ils ne connaissaient pas la réponse presque la moitié du temps. Une fois que l’IA est entrée en scène, la situation a radicalement changé.

Au lieu de dire « je ne sais pas », la plupart des participants ont accepté la suggestion de l’IA, même si elle était fausse. Leur confiance a fortement augmenté, mais leur précision réelle a stagné. Les humains devenaient simplement de plus en plus confiants dans l’erreur.

Les chercheurs affirment que cela indique un biais d’automatisation : notre tendance à faire confiance aux recommandations générées par ordinateur simplement parce qu’elles sont présentées avec assurance.

Cette étude suggère qu’une réponse soignée et faisant autorité peut nous donner plus de certitude que les preuves ne le justifient.

J'ai décidé de l'essayer moi-même


capture d'écran

Plutôt que de recréer l'expérience académique exacte, j'ai créé ma propre version en utilisant ChatGPT. J'ai choisi des questions que je soupçonnais d'être difficiles ou faciles à confondre, notamment des anecdotes obscures sur les films, des technologies plus anciennes, des détails historiques et des questions basées sur des images. J'ai même inventé une question complètement fausse à propos des cartes de vœux faites de cafards.

Pour chacun d’eux, j’ai suivi un processus simple en trois étapes :

J'ai deviné la réponse en premier basé entièrement sur ma propre mémoire.

J'ai demandé à ChatGPT exactement la même question.

J'ai comparé les deux réponses avec des sources fiables et vérifiées.

Presque immédiatement, j'ai remarqué que chaque fois que ChatGPT répondait avec confiance, je me retrouvais à remettre en question mon propre instinct, même lorsque ma supposition initiale s'avérait correcte.

Pendant une seconde éphémère, j'ai remis en question mes propres souvenirs d'enfance. la réponse globale est vraiment convaincante.

Les humains associent naturellement une communication confiante à l’expertise. C'est généralement un raccourci utile dans la vie de tous les jours, mais c'est une stratégie dangereuse lors de l'interaction avec l'IA.

Contrairement à un expert humain, ChatGPT ne vérifie pas une base de données ni ne rappelle une mémoire vérifiée. Bien sûr, il peut effectuer des recherches sur le Web à la vitesse de l’éclair, mais même dans ce cas, il peut récupérer des informations erronées. Il génère essentiellement les mots suivants les plus probables statistiquement en fonction des modèles de sa formation.

Parfois, c’est incroyablement précis, mais souvent, c’est faux. Le problème est que ces deux réponses semblent absolument identiques.

Comment cette étude a changé mon flux de travail

J’ai toujours été prudent quant à l’acceptation de la première réponse d’IA, car je sais à quel point cela peut être faux. Mais cette étude est certainement un signal d’alarme. ChatGPT est un outil de productivité puissant, mais simplement parce qu'il fournit des réponses fiables, cela vaut la peine de faire preuve de diligence raisonnable pour vérifier ce qu'il dit être des faits.

Pour moi, cela signifie :

Vérification des sources originales plutôt que de prendre le résumé de l’IA au pied de la lettre.

Confirmation des statistiques et des points de données via des moteurs de recherche indépendants.

S'assurer des citations, des dates et des noms correspondre à des références primaires et réputées.

Cela ne prend qu’une minute ou deux, mais c’est une habitude qui mérite d’être prise. Au contraire, cette étude m'a rappelé que la façon la plus intelligente d'utiliser l'IA est de maintenir vos propres capacités de raisonnement critique, car la décision finale vous appartient toujours.


Google Actualités