L'expérience de la chercheuse suédoise Almira Othmanovic Tonstrom, qui a créé une maladie fictive nommée "Pexonimania", a suscité un large débat dans les milieux scientifiques. L'objectif de cette expérience était de tester la capacité des modèles d'intelligence artificielle à assimiler des informations trompeuses, révélant ainsi des défauts méthodologiques graves qui menacent la crédibilité de la recherche scientifique.
Le 15 mars 2024, Tonstrom a commencé à diffuser des informations sur cette maladie fictive, la décrivant comme provoquant un changement de couleur des paupières en rose pâle, accompagné de douleurs ou de démangeaisons dues à un temps prolongé passé devant des écrans. La chercheuse a habillé cette maladie d'une apparence scientifique en publiant des études fictives sur le réseau "Sci Profiles", où un auteur fictif nommé "Lazliv Izgoblinovich" a été créé à l'aide de l'intelligence artificielle.
Détails de l'événement
Tonstrom a veillé à inclure des indices clairs indiquant la fausse nature de l'expérience, comme le choix du nom "Pexonimania" qui a une connotation satirique, ainsi que la mention d'une université fictive et d'une académie imaginaire. Malgré ces indices, les systèmes d'intelligence artificielle ont commencé à reconnaître cette maladie fictive, la décrivant comme une "condition rare et intrigante", ce qui a suscité des inquiétudes quant à l'impact de la désinformation sur ces systèmes.
La grande surprise est survenue lorsque une étude réelle dans la revue "Curious" a cité cette maladie fictive, avant d'être retirée plus tard après la découverte de la vérité. Cet incident met en lumière la facilité avec laquelle la désinformation peut se répandre dans la recherche scientifique.
Contexte et arrière-plan
Cette expérience se déroule à un moment où le monde voit une augmentation de la dépendance à l'intelligence artificielle dans divers domaines, y compris la médecine. Avec l'utilisation croissante de ces systèmes, il devient essentiel de vérifier l'exactitude des informations qu'ils fournissent. Cela a suscité un débat parmi les chercheurs, certains considérant que l'expérience offre une leçon importante sur la manière dont la désinformation se propage, tandis que d'autres estiment qu'elle contribue à la diffusion d'informations incorrectes.
Il convient de noter que les règles de la recherche scientifique exigent des chercheurs qu'ils vérifient l'exactitude des informations avant de s'y fier, ce qui n'a pas été appliqué dans ce cas. Les experts soulignent l'importance de réviser les recherches publiées et de ne pas les traiter comme des faits absolus.
Conséquences et impact
Cette expérience met en lumière les risques potentiels de l'utilisation de la désinformation dans la recherche scientifique, surtout dans un contexte de dépendance croissante à l'intelligence artificielle. De nombreux chercheurs ont exprimé leur inquiétude quant au fait que cette expérience pourrait "empoisonner" les systèmes d'intelligence artificielle avec des informations inexactes, ce qui pourrait avoir un impact négatif sur les décisions médicales.
De plus, l'expérience a soulevé des questions éthiques dans la recherche scientifique, où Tonstrom a consulté un expert en éthique avant de mener son expérience, mais cela n'a pas suffi à convaincre tous les chercheurs de la pertinence de l'expérience.
Impact sur la région arabe
Dans la région arabe, où la dépendance à la technologie et à l'intelligence artificielle augmente, l'importance de vérifier l'exactitude des informations utilisées dans la recherche se fait sentir. Les chercheurs arabes doivent tirer des leçons de cette expérience pour éviter de tomber dans le piège de la désinformation et renforcer la crédibilité des recherches scientifiques.
En conclusion, cet incident souligne l'importance de respecter l'éthique de la recherche scientifique et de vérifier l'exactitude des informations avant leur publication. Renforcer la culture scientifique et de recherche dans la société arabe est une étape essentielle vers un véritable progrès dans les domaines de la recherche et de la technologie.