En 2022, le lancement de ChatGPT au grand public a chamboulé nos interactions en ligne, tant au travail qu’à la maison. Les questions relatives à la santé mentale n’y font pas exception : plus d’un million de personnes se tournent chaque semaine vers ChatGPT pour des échanges traduisant une détresse psychologique importante qui va parfois jusqu’aux idées suicidaires. Ces conversations qualifiées de « sensibles » par OpenAI, le créateur de ChatGPT, font même l’objet d’études internes spécifiques pour entraîner l’agent « à reconnaître la détresse des utilisateurs, à faire preuve d’empathie et à proposer des ressources du monde réel ».
Pour autant, ces pratiques inquiètent plusieurs experts, comme le professeur à l’École de psychologie de l’Université Laval, M. Alexandre Marois, qui met en garde le public contre le recours à l’IA en remplacement du travail clinique. Il soutient que ces outils numériques peuvent encourager une personne dans sa détresse et recourir à la « flagornerie » plutôt que d’amener le patient à prendre conscience de ses incohérences et de ses pensées inadaptées, comme le ferait un professionnel.
Les jeunes représentent le groupe d’âge le plus exposé à ces pratiques risquées, le professeur et psychiatre Vincent Paquin souligne que les 16 à 25 ans ainsi que les 25 à 35 ans sont ceux qui utilisent le plus l’IA. Bien qu’une partie de cette utilisation serve pour le travail ou à des fins scolaires, environ le tiers des jeunes rapportent s’en servir « à des fins sociales ou émotionnelles ». Au Royaume-Uni, une étude de Mental Health UK révèle que jusqu’à 64 % des 25 à 34 ans ont déjà interagi avec l’IA pour discuter de leurs problèmes personnels et psychologiques.
Pourquoi les jeunes se tournent-ils vers l’IA? Tout d’abord, les experts signalent la crise de la solitude qui atteint les pays occidentaux, et qui affecte particulièrement les jeunes adultes depuis au moins une dizaine d’années. Cette génération est plus tentée de « se tourner vers les technologies comme un moyen accessible pour avoir de la compagnie et briser la solitude », explique le Dr Paquin. Il y a aussi une question de ressources. M. Alexandre Marois rappelle le problème de pénurie de professionnels et le non-recouvrement des frais psychologiques par le régime public de l’assurance maladie du Québec (RAMQ). Vincent Paquin souligne également que les services de santé mentale ne sont pas aussi accessibles pour les jeunes, soit en raison des listes d’attente, de leur coût ou de la crainte d’être stigmatisés. En comparaison, les agents conversationnels sont accessibles 24 h sur 24, gratuits et, en revanche, programmés pour valider l’usager plutôt que de le contredire.
« L’intelligence artificielle aide à démocratiser l’accès aux connaissances scientifiques »
— Vincent Paquin.
Il faut souligner que les experts s’entendent sur plusieurs usages positifs de l’IA en psychologie. Pour les problèmes légers du quotidien, le Dr Paquin note que les agents conversationnels peuvent aider les utilisateurs à mieux comprendre certains enjeux. M. Marois affirme également que l’IA peut offrir un soutien dans ce type de situations.
Infographie réalisée par Élyse Riverin pour L’Exemplaire avec les informations du rapport de Recherche en santé mentale Canada, du Gouvernement du Québec, de l’Association canadienne pour la santé mentale (ACSM), du rapport de Mental Health UK et du psychologue Alexandre Marois.
Encadrer l’utilisation de l’IA
Le Dr Vincent Paquin précise qu’à l’heure actuelle, il y a beaucoup d’incertitudes quant aux impacts de l’utilisation de l’IA sur le bien-être de la population. Même si les cas médiatisés sont des expériences plutôt anecdotiques, il précise qu’en raison des vies humaines qui ont été perdues, les situations comme la fusillade de Tumbler Ridge viennent soulever des questions fondamentales quant à l’encadrement de l’utilisation de l’IA dans des contextes sensibles. Ces questions sont d’autant plus légitimes que la plupart des entreprises qui les ont créés et qui les mettent en service collectent en même temps des informations sur l’utilisateur pouvant laisser présager un risque de passage à l’acte violent.
Le Dr Paquin propose de réglementer ces usages, afin d’obliger les développeurs d’IA à intégrer des mécanismes capables de signaler les situations de danger imminent aux autorités dès la détection d’un risque élevé de violence pour la sécurité d’une personne ou du public. Dans ces situations, le système entrerait en contact avec les autorités pour permettre une intervention humaine rapide.
Parallèlement, le psychiatre appelle à plus de transparence et à la mise en place de rapports périodiques des développeurs. De cette manière, ceux-ci devront rendre publiques les incidents problématiques à l’interne tout en s’assurant de respecter la confidentialité des données. Cela permettrait aux organismes indépendants, aux chercheurs et aux autorités d’évaluer eux-mêmes le niveau de sécurité des produits et leur permettre de s’ajuster.
« On laisse ces compagnies décider elles-mêmes si leurs produits sont sécuritaires »
— Vincent Paquin.
Finalement, Vincent Paquin recommande l’intégration de mesures de limitation des risques dans les produits, c’est-à-dire d’ajouter des balises directement dans les applications afin de protéger les utilisateurs. Par exemple, faire apparaître des avertissements de temps d’utilisation pour prévenir l’usage prolongé et des mises en garde claires lors de discussions traitant de sujets sensibles. Un resserrement des limites d’âge et un contrôle parental pourraient être envisagés, en plus de la désactivation de certaines fonctionnalités pour les mineurs.
M. Alexandre Marois abonde dans le même sens quant aux possibles restrictions. Il souligne qu’il y a bien un vide juridique et un risque pour les jeunes, étant donné que les IA sont développées par des entreprises dont le but principal est d’inciter les utilisateurs à revenir constamment. Enfin, il fait un parallèle avec l’Australie, qui a légiféré sur l’âge minimum pour l’utilisation de certains réseaux sociaux, notamment les plateformes TikTok, Facebook et Instagram.
Volet préventif
Malgré les dangers possibles de l’utilisation de l’intelligence artificielle, cet outil a ouvert une nouvelle avenue sur le volet préventif. C’est sur cela que portent les travaux du Dr Alexandre Hudon, clinicien-chercheur en intelligence artificielle en psychiatrie de la santé mentale. Il s’apprête à franchir l’étape de l’essai clinique avec ces modèles mathématiques basés sur l’intelligence artificielle pour prédire le risque de violence.
Avec son équipe, il utilise des modèles qui analysent plus d’une centaine de variables, allant des notes des infirmières aux données historiques et biologiques du patient, pour établir un outil qui prévoit, à l’aide de règles mathématiques, les risques d’actes de violence. C’est avec l’information de tous les patients qui se sont présentés à l’urgence de l’Institut universitaire en santé mentale de Montréal depuis 2012 que l’équipe du Dr Hudon a pu constituer son modèle.
La prochaine étape de ses travaux est la phase de validation, dans laquelle il lancera un essai clinique directement à l’urgence de l’hôpital. L’outil générera une prédiction de risque de violence et l’équipe vérifiera ensuite, avec le passage du temps, si le patient a bel et bien commis un geste violent. Le but est de vérifier si le modèle est aussi performant dans un environnement clinique réel, chaotique et imprévisible, que lors des simulations en laboratoire. Il estime à deux ans la durée de l’essai.
L’objectif ultime de ces démarches est d’appuyer les spécialistes en clinique en leur fournissant plus d’information utile à leur prise de décision. Le modèle d’IA préventif n’a pas pour but de remplacer le médecin dans son autonomie, mais de l’assister pour adapter les interventions en temps réel. Par exemple, le Dr Hudon explique que lorsque le système identifiera une personne avec un score de violence élevé, le médecin pourra choisir d’intervenir à deux auprès du patient ou de lui laisser un temps de recul pour éviter d’envenimer la situation. Le chercheur insiste d’ailleurs sur les limites d’une lecture purement prédictive de ces outils : « Le but, évidemment, ce n’est pas d’avoir une espèce de boule de cristal puis de dire “OK, telle personne rentre à l’urgence, c’est un score de 72 % de passage à l’acte de violence”. Ça, ça ne veut absolument rien dire, puis cliniquement on ne peut rien faire avec ça. Ce qu’on veut faire avec ce modèle-là, c’est plus dans l’intervention auprès des patients ».
Ce modèle pourrait aussi servir à petite et a une plus grande échelle en santé publique pour orienter la prise de décision dans l’allocation des ressources. Si le modèle démontre que, dans un secteur géographique donné, les passages à l’acte violent sont fortement reliés à des problèmes de toxicomanie, par exemple, le réseau de la santé saura qu’il doit cibler ses investissements financiers dans la prévention des dépendances pour ce secteur spécifique.
Toutefois, certains spécialistes sont plus réservés quant à l’utilisation de l’IA préventive clinique. C’est le cas du psychologue Alexandre Marois, qui craint que l’ajustement du comportement des spécialistes sur le terrain crée une prophétie autoréalisatrice. Par exemple, l’intervenant, en modifiant son approche de façon consciente ou non, en étant plus sur la défensive ou en abordant le patient à deux personnes plutôt qu’une, déclenche la violence même qu’il tentait d’éviter.
Le psychologue souligne également que, malgré une fausse croyance, même les modèles d’intelligence artificielle ont des biais et des stéréotypes: « Certains pensent que l’IA est neutre et que l’humain est faillible, et d’autres personnes disent qu’au contraire, l’IA est faillible, a des défauts, mais que nous, on est mieux. Non, on est les deux, on est très similaires en fait. ». À ce titre, Alexandre Marois fait remarquer que les modèles sont entraînés sur des données reflétant des décisions humaines et qu’ils reproduisent inévitablement nos propres biais et stéréotypes. Il craint que cette pratique puisse produire de la discrimination algorithmique, par exemple en traitant une personne différemment simplement parce qu’elle provient d’un milieu défavorisé.
