Google face à ses erreurs : des faux résumés médicaux générés par IA
L’utilisation d’Internet pour rechercher des symptômes de santé est fréquente, mais elle doit être effectuée avec soin.
Qui n’a jamais eu recours à Google pour en savoir plus sur ses soucis de santé ? Bien que cette pratique soit courante, elle requiert une attention particulière. Comme l’indique le Guardian dans son édition de dimanche dernier (11-01-2026), Google a été contraint de retirer certains résumés créés par intelligence artificielle de ses résultats. Cela fait suite à la propagation de fausses informations dans ces brefs textes, ce qui a pu induire les utilisateurs en erreur sur leur état de santé.
Problèmes liés aux résumés AI
Depuis 2024, Google a déployé les AI overviews dans environ une centaine de pays, dont les États-Unis, le Royaume-Uni, le Japon, le Mexique et le Brésil, mais pas encore en France. Concrètement, dans ces régions, un résumé généré par IA s’affiche en tête des résultats de recherche. L’objectif de la société est de fournir une réponse instantanée aux questions des utilisateurs sans qu’ils aient besoin de cliquer sur un lien externe, leur évitant ainsi de quitter Google.
Néanmoins, certains de ces résumés ont été qualifiés de «dangereux» et «alarmants» par des spécialistes. Comme le souligne le Guardian, une recherche sur «la plage normale pour les analyses de sang du foie» renvoyait à un texte produit par l’IA, présentant de nombreux chiffres sans prendre en compte des facteurs tels que le contexte, la nationalité, le sexe, l’origine ethnique ou l’âge des patients.
Lire en complément: Pourquoi ce baume à lèvres pas cher de chez Primark pourrait nuire à votre santé ?
Suppression des résumés
La problématique réside dans le fait que les résultats d’analyses jugés normaux par l’IA de Google n’étaient pas nécessairement exacts. Cela a pu amener des personnes atteintes d’insuffisance hépatique à croire que leurs résultats sanguins étaient satisfaisants, ce qui pourrait avoir des conséquences graves, comme le fait de ne pas consulter un médecin.
Cette décision de retirer les résumés a été prise suite à une première enquête du Guardian publiée le 2 janvier, qui mettait en exergue les insuffisances de l’IA. Par conséquent, Google a choisi d’éliminer les résumés pour les recherches contenant les termes “quelle est la plage normale des analyses sanguines du foie” et “quelle est la plage normale des tests de la fonction hépatique”.
Un porte-parole de Google, interrogé par le média britannique, a simplement déclaré que «lorsque les aperçus de l’IA ne prennent pas en compte certains éléments de contexte, nous nous efforçons d’apporter des améliorations générales et nous prenons également des mesures conformément à nos politiques».
Un problème qui persiste
La reformulation des requêtes peut toujours aboutir à des résumés trompeurs fournis par l’IA, et des inquiétudes subsistent quant à la possibilité que d’autres informations de santé générées par l’IA soient inexactes et déroutantes.
Le Guardian a également confirmé que des tests effectués avec des formulations légèrement différentes sur des thèmes liés au foie continuent de produire des résumés inexacts. En réponse à cette situation, Google a révélé que ces nouveaux cas étaient en cours d’analyse par ses équipes, soulignant que seules les réponses de l’IA jugées «très bonnes» étaient mises en avant.
Cependant, plusieurs experts cités par le Guardian notent que des erreurs pourraient également se retrouver dans d’autres résumés générés par l’IA concernant divers sujets de santé. Dans un article pour le Search Engine Journal, Matt Southern observe que les aperçus de l’IA occupent une position très visible, se trouvant au-dessus des résultats classés. Ainsi, lorsque l’on aborde la question de la santé, les erreurs peuvent avoir des répercussions particulièrement graves.
