Google dans la tourmente : l’AI Overviews fortement critiquée

Déployée aux États-Unis depuis le 14 mai 2024, Google AI Overviews propose aux utilisateurs américains une synthèse des données trouvées sur le web. Son objectif est de faire gagner du temps aux internautes en leur fournissant rapidement les informations essentielles. Et cela, sans avoir à parcourir de nombreux sites web.

D’un côté, certains utilisateurs saluent l’initiative. De l’autre, de nombreuses critiques fusent, dénonçant un contenu superficiel, voire trompeur. Une semaine après son lancement aux États-Unis, des screenshots inquiétants inondent les réseaux sociaux. En cause : les réponses délirantes de l’IA. Face à ce tollé, Google réagit.

Une IA qui peine à trier ses sources d’informations

Certains utilisateurs remarquent que les résumés générés par AI Overviews semblent parfois provenir de Reddit ou d’autres sites web peu fiables. Le ton sarcastique de ces derniers n’est vraisemblablement pas reconnu par l’IA. Des erreurs graves ont ainsi été signalées. Il s’agit notamment des conseils de santé dangereux et des confusions entre blagues et informations factuelles.

Parmi les réponses les plus absurdes, certaines conseillaient aux utilisateurs de manger des pierres pour obtenir des nutriments essentiels. D’autres d’utiliser de la colle pour fixer le fromage sur la pizza ou de boire de l’urine pour traiter les calculs rénaux. Dans un cas particulièrement aberrant, l’IA a suggéré de sauter d’un pont comme solution à la dépression.

VOIR AUSSI : Google I/O 2024 : Gemini répond en force contre ChatGPT 

Google nous répond sur l’AI Overviews

En réponse à ces nombreux commentaires, Google a réagi par l’intermédiaire de Liz Reid, responsable de Google Search, dans un article de blog publié ce 30 mai 2024.

Confiant en son outil, Liz Reid exprime ses réserves quant aux critiques des utilisateurs et n’hésite pas à remettre en question leur bonne foi. Elle explique que certaines erreurs étaient le résultat de recherches absurdes. Celles-ci, apparemment conçues pour produire expressément des résultats incorrects. Serait-ce donc la faute des internautes ?

Elle souligne également que certaines captures d’écran publiées sur les réseaux sociaux sont en réalité des montages et des trucages. Plus étonnamment,

Le magnat du web se reprend en expliquant que le vide de données représente aussi un facteur déterminant. Lorsqu’il y a peu d’informations disponibles en ligne, les AI Overviews s’appuient sur les rares sources existantes. La société reconnait aussi que, malgré des tests approfondis avant le lancement, l’application réelle des a révélé des failles. Elles ne pouvaient pas être anticipées.

VOIR AUSSI : Google Maps se réinvente ! Une nouvelle interface Android qui plaira à tous ? 

Les solutions proposées par le géant du web

Pour corriger les erreurs, Google indique avoir apporté certains ajustements à AI Overviews. Parmi ces ajustements, on trouve :

• L’introduction de meilleurs mécanismes détectant les contenus absurdes et satiriques. 
• La limitation de l’utilisation des contenus générés par les utilisateurs, comme ceux trouvés dans les forums ou sur les réseaux sociaux, pour générer les réponses.
• Des garde-fous pour les requêtes absurdes ainsi que les contenus sensibles (santé, religion, sujets d’actualité sensibles, etc.)

Les aperçus générés par l’IA ne disparaîtront pas des radars pour autant. Google reste confiant. La compagnie croit aux améliorations constantes fournies qui rendront l’outil plus fiable et utile pour tous. AI Overview sera bientôt disponible par défaut sur les écrans français. Toutefois, vous pourrez toujours choisir de le désactiver.