Une étude récente menée par l'Université de Brown a montré que les robots de chat basés sur l'intelligence artificielle, utilisés pour fournir des services de thérapie psychologique, pourraient enfreindre les normes éthiques établies dans ce domaine. L'étude, qui a duré 18 mois, a impliqué l'évaluation du comportement de ces robots par un groupe de spécialistes en santé mentale.
Les chercheurs ont rapporté que les modèles de langage avancés, tels que GPT-4 et Claude, échouent souvent à respecter les normes éthiques établies par l'Association américaine de psychiatrie. Zainab Iftikhar, l'auteure principale de l'étude, a souligné que la thérapie psychologique n'est pas simplement un calcul, mais nécessite un engagement strict envers les normes éthiques et le comportement professionnel.
Détails de l'étude
L'étude a évalué 137 séances de thérapie, au cours desquelles 15 types de violations éthiques ont été identifiés, classés en cinq catégories principales. Parmi ces catégories, des problèmes liés à la compréhension du contexte, à la coopération thérapeutique insuffisante, à l'empathie trompeuse, ainsi qu'à la discrimination injuste et à la mauvaise gestion des crises ont été notés.
Les chercheurs ont également noté que les robots de chat ont tendance à simplifier les expériences de vie des utilisateurs, ce qui conduit à une domination de ces robots dans les conversations thérapeutiques, pouvant nuire à l'efficacité du traitement.
Contexte et antécédents
Cette étude intervient à un moment où la dépendance à l'intelligence artificielle pour fournir des services de santé mentale augmente à travers le monde. Selon une autre étude publiée en février 2026, de nombreuses personnes ont exprimé leur volonté d'utiliser l'intelligence artificielle comme conseiller en santé mentale, avec des sondages montrant que 42% des Américains et 41% des Britanniques préfèrent cette option.
Les entreprises de recherche prévoient que le marché de l'intelligence artificielle dans le domaine de la santé mentale atteindra 9,12 milliards de dollars d'ici 2033, reflétant la croissance rapide de ce secteur.
Conséquences et impacts
Malgré les avantages potentiels que l'intelligence artificielle peut offrir pour faciliter l'accès aux services de santé mentale, les chercheurs mettent en garde contre les risques graves associés à l'utilisation de cette technologie sans régulation appropriée. Ils ont appelé à l'établissement de réglementations et de lois claires pour limiter les risques potentiels pour les utilisateurs.
Ces résultats constituent un appel à réfléchir à la manière d'intégrer la technologie dans les soins de santé mentale de manière sûre et efficace, tout en maintenant les normes éthiques qui garantissent la sécurité des patients.
Impact sur la région arabe
Dans la région arabe, où les pressions psychologiques et sociales augmentent, l'intelligence artificielle pourrait jouer un rôle important dans le soutien psychologique. Cependant, cette technologie doit être mise en œuvre avec prudence, en tenant compte des valeurs culturelles et des normes éthiques locales.
Les pays arabes doivent adopter des stratégies claires pour réguler l'utilisation de l'intelligence artificielle dans le domaine de la santé mentale, afin d'assurer des services sûrs et efficaces pour les citoyens.