Google a doublé ses résultats de recherche basés sur l'IA, affirmant que la récente vague de réponses étranges et inutiles se limite à une poignée de requêtes de niche.

Les aperçus de l'IA ont été annoncés dans le cadre de Google I/O plus tôt ce mois-ci et placent les réponses textuelles plus longues basées sur Gemini au-dessus des résultats pour les requêtes plus complexes. Ce sont des questions auxquelles il faudrait plusieurs visites sur le site Web pour y répondre.

Peu de temps après le lancement, un certain nombre de problèmes ont commencé à apparaître, dont un suggérant l'utilisation de colle non toxique pour épaissir la sauce à pizza, un autre disant que manger des pierres peut être bon pour la santé et un troisième suggérant que fumer pendant la grossesse est sain – ce n'est pas le cas. Si vous ne voulez pas d'aperçus d'IA, nous avons un guide pour les bloquer des résultats.

Dans un communiqué, Liz Reid, responsable de la recherche chez Google, a déclaré que bon nombre des affirmations les plus farfelues sur les réseaux sociaux ne pouvaient pas être reproduites – y compris la question des roches – et à propos des vraies requêtes, elle a déclaré : « il y a des domaines que nous devons améliorer ».

Qu'est-ce qui n'a pas fonctionné avec les aperçus de l'IA de Google ?

Aperçus de l'IA

Reid dit que le plus gros problème avec de nombreux résultats résidait dans la façon dont le modèle d'IA interprétait le sarcasme et l'humour. « Nous avons vu des présentations d'IA présentant du contenu sarcastique ou troll provenant de forums de discussion », a-t-elle écrit.

« Les forums sont souvent une excellente source d'informations authentiques et de première main, mais dans certains cas, ils peuvent donner lieu à des conseils peu utiles, comme utiliser de la colle pour que le fromage colle à la pizza. » Ce qui pourrait être un problème pour l'accord entre OpenAI et Reddit.

Ensuite, les gens ont utilisé cela comme une blague, ajoutant ainsi au contenu sarcastique et troll des forums de discussion.

Il existe également un élément de test de résistance Web pour tester les comportements inattendus de Google. Reid déclare : « Il n'y a rien de tel que de voir des millions de personnes utiliser cette fonctionnalité dans le cadre de nombreuses recherches inédites. Nous avons également vu de nouvelles recherches absurdes, apparemment destinées à produire des résultats erronés. »

Quelle est la solution au problème des aperçus IA ?

Aperçus de l'IA de Google

L'IA générative n'a aucun moyen de savoir ce qui est vrai, elle sait seulement ce qui est populaire. Ainsi, cela finit souvent par faire apparaître des réponses provenant de sources non fiables ou de comptes parodiques au lieu des faits réels. Dans certains cas, l’IA est également sujette aux « hallucinations », où elle invente simplement de fausses données pour combler son manque de connaissances.

Google a toujours été une plateforme sur laquelle les utilisateurs peuvent trouver toutes sortes d’informations et de désinformations. Mais sans la possibilité de corréler les informations avec la réputation de la source, il n'y a aucun moyen de savoir si les réponses obtenues sont exactes.

Reid dit qu'ils ont déjà apporté quelques améliorations aux aperçus. « En examinant les exemples des deux dernières semaines, nous avons pu déterminer les tendances dans lesquelles nous n'avions pas réussi, et nous avons apporté plus d'une douzaine d'améliorations techniques à nos systèmes », a-t-elle déclaré.

Cela inclut l’amélioration des mécanismes de détection des requêtes absurdes et le blocage de l’affichage des aperçus de l’IA. Cela inclut la suppression du contenu satirique et humoristique du matériel source pour ces requêtes.

Ils ont également réduit le contenu généré par les utilisateurs dans les réponses, se concentrant plutôt sur des sources de matériel de meilleure qualité.

Enfin, Google affirme avoir mis en place des garde-fous plus solides, notamment pour les contenus d’actualité et de santé. « Nous visons à ne pas afficher d'aperçus de l'IA pour les sujets d'actualité difficiles, où la fraîcheur et la factualité sont importantes. Dans le cas de la santé, nous avons lancé des améliorations de déclenchement supplémentaires pour améliorer nos protections de qualité », a déclaré Reid.