Une récente étude scientifique portant sur les molécules de petits mammifères a été retirée d’Internet suite à la découverte d’images produites par l’intelligence artificielle. Parmi ces images, l’une d’elles déformait un rat en un monstre disproportionné, suscitant l’étonnement.
L’article, relayé par le magazine américain Vice, met en lumière l’usage de l’IA par certains chercheurs sans un contrôle rigoureux des résultats. Publiée dans la revue Frontiers, cette étude chinoise a attiré l’attention pour des raisons inattendues.
Des Images Générées par l’IA Déconcertantes
L’étude rédigée par des chercheurs de l’hôpital Hong Hui et de l’université Jiao Tong comportait de nombreux calculs, diagrammes et images générés en partie par l’IA MidJourney. Malheureusement, certaines de ces images, dont celle d’un rat au pénis surdimensionné, n’avaient pas été détectées lors des relectures.
Outre les anomalies visuelles, d’autres images étaient totalement déformées, transformant des données scientifiques en éléments non reconnaissables. L’utilisation de « prompt art » a également contribué à ces erreurs, illustrant les limites de la supervision humaine sur les générateurs d’images.
Un Défi pour l’Éthique en Recherche Scientifique
Le processus de validation de cette publication a soulevé des questions sur la supervision des images générées par l’IA. Malgré les crédits attribués à MidJourney, le contrôle de la pertinence et de l’exactitude de ces images semble avoir été négligé, révélant des lacunes inattendues dans le processus de publication.
Cette affaire soulève des inquiétudes quant à l’infiltration de l’IA dans le domaine scientifique et a incité des revues renommées telles que Nature à interdire l’usage d’images générées par l’IA pour préserver l’intégrité des recherches scientifiques.