L'intelligence artificielle, un outil potent mais non sans risque dans le domaine médical
L'intelligence artificielle (IA) s'est affirmée comme l'une des technologies les plus prometteuses dans le secteur sanitaire. Des systèmes peuvent désormais analyser toutes sortes de données, de radiographies à des outils répondant à des questions médicales ou suggérant des diagnostics possibles. Le secteur technologique présente ces solutions comme une révolution pour la médecine.
Un enthousiasme exagéré?
La docteure Mieses Malchuk a lancé une critique cinglante concernant l'utilisation actuelle de l'IA dans les soins médicaux. Selon elle, le zèle qui entoure l'application de l'IA en santé est exagéré. Présenter ces outils comme des solutions fiables peut être, en réalité, une farce et un pas en arrière. Cette mise en garde fait partie d'un débat de plus en plus visible dans le monde entier.
La créance que les utilisateurs peuvent avoir en ces outils est l'un des principaux problèmes soulevés par les critiques, y compris la docteure Malchuk. De nombreux études ont montré que les personnes tendent à considérer comme fiables les réponses générées par les systèmes d'intelligence artificielle, même lorsque la précision n'est pas garantie. Dans le contexte médical, ce phénomène peut avoir des conséquences particulièrement graves.
Les modèles intelligents actuels présentent également le problème des hallucinations, qui sont des réponses qui semblent plausibles mais peuvent contenir des erreurs ou des informations inventées. Dans les contextes médicaux, ces limites peuvent entraîner des conséquences beaucoup plus sérieuses que dans d'autres domaines.
Les grandes technos comme Microsoft, OpenAI ou Google sont en effet en train d'explorer des systèmes capables d'analyser des données cliniques, d'interpréter des rapports médicaux ou d'assister les professionnels de santé dans certaines tâches. La promesse derrière ces technologies est d'améliorer l'efficacité du système sanitaire et d'aider les médecins à gérer de grandes quantités d'informations médicales.
En théorie, une IA bien formée pourrait détecter des patterns dans des données cliniques, analyser des images médicales rapidement ou aider à identifier des diagnostics possibles à partir de symptômes. Cependant, ce potentiel offert par la technologie est ce qui a suscité l'intérêt croissant pour l'intégration de l'IA dans les hôpitaux et les centres de recherche.
Le risque de se fier trop aux réponses de l'IA est l'un des points clés du débat. Les professionnels de la santé et les scientifiques avertissent notamment contre l'alzheimer, en déclarant :