L'ia infatigable, à l'écoute de fausses nouvelles

La bixonimanie, une maladie qui n'existe pas, mais qui a pu tromper l'intelligence artificielle. C'est ce que montrent récemment des chercheurs de l'Université de Göteborg en Suède.

Bixonimanie : la nouvelle maladie qui fait trembler les ia

Les scientifiques ont créé une fausse étude sur une maladie fictive, la bixonimanie, et l'ont publiée dans un serveur académique. Objectif : vérifier jusqu'à quel point l'intelligence artificielle (IA) pourrait se laisser prendre pour du vrai.

Résultat : ChatGPT, l'une des plus grandes IA actuelles, a réagité en parlant de la bixonimanie comme d'une maladie réelle. Et ce n'est pas le seul, d'autres outils d'intelligence artificielle ont également été dupes.

La bixonimanie n'est pas une aberration. Les chercheurs mettent en garde contre l'incapacité de l'IA à distinguer le vrai du faux, spécialement en ce qui concerne les informations de santé. Mais ce phénomène ne se limite pas à ce domaine.

Actuellement, il n'y a pas de mécanismes pour surveiller les IA et les empêcher de propager des informations fausses. Cela soulève des inquiétudes pour l'avenir, car l'Internet peut fournir n'importe quelle information, vraie ou fausse, à l'IA.