Attention aux fausses informations santé données par l'IA
Une enquête exclusive du Guardian révèle que les résumés générés par l’intelligence artificielle de Google peuvent contenir des informations de santé erronées et potentiellement dangereuses. Cette révélation soulève des questions cruciales sur la fiabilité des outils d’IA en matière médicale, alors que ces technologies se démocratisent rapidement et que de nombreux utilisateurs s’en remettent désormais à ces assistants numériques pour leurs préoccupations de santé.
Des erreurs aux conséquences médicales potentiellement graves
L’enquête révèle des cas particulièrement préoccupants où l’IA de Google aurait conseillé à des patients atteints de cancer du pancréas d’éviter les aliments riches en matières grasses, une recommandation qui pourrait les empêcher de maintenir un poids suffisant pour supporter la chimiothérapie ou une intervention chirurgicale vitale. D’autres exemples concernent des informations inexactes sur les dépistages féminins ou les analyses sanguines hépatiques, avec des données dépourvues de contexte médical approprié.
Cette problématique dépasse largement le seul cas de Google : l’ensemble des intelligences artificielles généralistes peuvent présenter ces mêmes biais et approximations. Le caractère changeant des réponses selon les appareils ou les formulations utilisées révèle l’instabilité fondamentale de ces systèmes pour des sujets aussi sensibles que la santé.
La nécessité d’une vigilance renforcée des utilisateurs d’intelligence artificielle
Face à cette situation, il devient essentiel d’adopter une approche critique envers toutes les informations de santé fournies par l’intelligence artificielle. Bien que Google assure que ses résumés renvoient vers « des sources réputées et bien connues », les erreurs d’interprétation et le manque de contextualisation peuvent transformer des informations initialement correctes en conseils dangereux.
Les professionnels de santé recommandent désormais de systématiquement vérifier toute information médicale obtenue via l’IA auprès de sources officielles reconnues (Haute Autorité de Santé, ANSM, organismes médicaux de référence) et de consulter un professionnel de santé qualifié avant toute décision thérapeutique. Cette démarche de vérification croisée pourrait permettre d’éviter des retards de diagnostic, des traitements inadaptés ou des complications évitables, préservant ainsi la sécurité des patients tout en évitant des coûts de santé supplémentaires liés à des prises en charge inadéquates.
Sources :