Rôle paradoxal de l'IA fournissant une thérapie aux humains souffrant de psychose liée à l'IA et d'autres problèmes de santé mentale induits par l'IA

Dans la chronique d'aujourd'hui, j'examine l'avènement de l'IA qui choisit de fournir une thérapie aux personnes souffrant de psychose induite par l'IA et d'autres problèmes de santé mentale causés par l'IA. Vous pourriez être perplexe face à cet aspect, car cela semble être une approche plutôt renversante. La même IA qui est à l'origine de la psychose induite par l'IA et d'autres troubles cognitifs causés par l'IA agit comme une sorte de guide pour surmonter les problèmes de santé mentale déconcertants provoqués par les interactions avec l'IA. Cela suscite vraiment beaucoup d'interrogations, c'est certain.

La question en jeu est de savoir si l'IA peut à la fois saper la santé mentale et, en même temps, être un stimulant de la santé mentale qui surmonte les problèmes déclenchés par l'interaction avec l'IA.

Parlons-en.

Cette analyse des avancées de l'IA fait partie de ma couverture continue dans ma chronique Forbes sur les dernières nouveautés en matière d'IA, notamment l'identification et l'explication de diverses complexités impactantes de l'IA (voir le lien ici).

L'IA et la santé mentale

En guise de contexte rapide, j'ai largement couvert et analysé une multitude de facettes concernant l'avènement de l'IA de l'ère moderne qui produit des conseils en santé mentale et effectue une thérapie pilotée par l'IA. Cette utilisation croissante de l'IA a principalement été stimulée par les avancées évolutives et l'adoption généralisée de l'IA générative. Pour une liste exhaustive de mes plus de cent analyses et publications, consultez le lien ici et le lien ici.

Il ne fait guère de doute qu'il s'agit d'un domaine en développement rapide et qu'il y a d'énormes avantages à en tirer, mais en même temps, malheureusement, des risques cachés et de véritables pièges se présentent également dans ces entreprises. Je m'exprime fréquemment sur ces questions pressantes, notamment lors d'une apparition dans un épisode de 60 Minutes de CBS, voir le lien ici.

Émergence de la psychose induite par l'IA

Il y a actuellement beaucoup d'angoisse généralisée concernant les personnes ayant des conversations malsaines avec l'IA. Des poursuites judiciaires commencent à être lancées contre divers fabricants d'IA tels qu'OpenAI (voir ma couverture au lien ici). L'appréhension est que les mesures de protection de l'IA mises en place sont insuffisantes et permettent aux gens de subir des dommages mentaux lors de l'utilisation de l'IA générative.

L'expression « psychose induite par l'IA » est apparue pour décrire toutes sortes d'inquiétudes et de maladies mentales dans lesquelles quelqu'un pourrait s'enfoncer en conversant avec l'IA générative. Veuillez noter qu'il n'existe pas de définition clinique définitive, entièrement acceptée et universelle de la psychose induite par l'IA ; ainsi, pour l'instant, il s'agit plutôt d'une détermination approximative.

Voici ma définition provisoire de la psychose induite par l'IA :

• Psychose induite par l'IA (ma définition) : « Une condition mentale défavorable impliquant le développement de pensées, de croyances déformées et de comportements potentiellement concomitants résultant d'un engagement conversationnel avec l'IA telle que l'IA générative et les LLM, survenant souvent en particulier après un discours prolongé et inadapté avec l'IA. Une personne présentant cette condition aura généralement de grandes difficultés à différencier ce qui est réel de ce qui ne l'est pas. Un ou plusieurs symptômes peuvent être des indices révélateurs de cette maladie et impliquent habituellement un ensemble collectif connecté. »

Pour un examen approfondi de la psychose induite par l'IA et en particulier de la co-création de délires via la collaboration humain-IA, consultez mon analyse récente au lien ici.

L'IA en tant que dualiste

Tout le monde ne tombe pas dans un abîme mental en utilisant l'IA.

Beaucoup de gens utilisent l'IA comme un stimulant quotidien de la santé mentale. Ils comptent sur l'IA comme leur principal conseiller en santé mentale. Que ce soit juste ou faux continue d'être débattu. La réalité est que cela se produit.

En effet, cela se produit en nombre massif à une échelle énorme. ChatGPT compte à lui seul plus de 700 millions d'utilisateurs actifs hebdomadaires. Une proportion notable de ces utilisateurs utilise ChatGPT pour des conseils en santé mentale. Il en va de même pour les autres LLM majeurs. L'utilisation de l'IA générative et des LLM pour des conseils en santé mentale est classée comme l'utilisation la plus importante de cette IA actuellement sur une base générale (voir mon évaluation des classements d'utilisation au lien ici).

Voici une tournure intrigante.

Si quelqu'un tombe dans une psychose induite par l'IA ou une maladie mentale causée par l'IA, l'IA peut-elle l'aider à s'extraire de la difficulté cognitive ?

Un argument est que c'est une proposition absurde dès le départ. Seul un thérapeute humain pourrait aider une personne confrontée à tout type de psychose induite par l'IA. De plus, l'étape la plus cruciale est d'arrêter immédiatement la personne d'utiliser l'IA. Ne la laissez pas continuer à s'enfoncer davantage dans le piège de l'IA. Point final.

L'autre côté de la médaille

Peut-être ne devrions-nous pas être si hâtifs.

Il existe plusieurs raisons sensées d'envisager d'utiliser l'IA dans le but d'aider un utilisateur à sortir de sa psychose induite par l'IA. Cela étant dit, clarifions une chose – toute personne subissant véritablement une psychose induite par l'IA devrait directement chercher de l'aide auprès d'un thérapeute humain. Le fait qu'elle choisisse de continuer à utiliser l'IA devrait être une considération sous l'œil vigilant d'un thérapeute humain.

Pourquoi une personne s'engagerait-elle dans l'IA pour obtenir de l'aide si elle est apparemment engloutie par une psychose induite par l'IA ?

Premièrement, il se pourrait que la personne soit au milieu d'une psychose induite par l'IA, mais qu'aucun autre humain ne réalise que cela se produit. La personne ne révèle cela qu'à l'IA. Ou l'IA a détecté informatiquement que la personne semble vivre une psychose induite par l'IA.

La question est de savoir si l'IA devrait être programmée pour alerter un humain de l'émergence suspectée d'une psychose induite par l'IA. Par exemple, OpenAI a pris des mesures pour ajuster ChatGPT afin qu'il signale de telles considérations suspectées à une équipe humaine de spécialistes internes chez OpenAI ; voir ma couverture au lien ici. Cet effort d'OpenAI va plus loin en organisant bientôt la mise en contact des utilisateurs avec un thérapeute humain faisant partie d'un réseau sélectionné de thérapeutes par OpenAI (voir ma discussion au lien ici).

En tout cas, si l'IA n'est pas configurée pour émettre de telles alertes ou connexions, l'IA elle-même pourrait procéder pour essayer d'aider la personne. Que cette aide soit réussie est obscur. Vous ne pouvez pas déclarer catégoriquement que l'IA ne pourra pas aider la personne. D'un autre côté, puisqu'il s'agit d'une option risquée, cela souligne à nouveau l'importance de rechercher une assistance humaine appropriée.

Familiarité et accès

Il existe des raisons supplémentaires d'utiliser l'IA dans ces circonstances.

Une personne qui a plongé dans la psychose induite par l'IA est probablement un utilisateur assidu de l'IA. Elle est à l'aise avec l'utilisation de l'IA. Elle utilise régulièrement l'IA. Celle-ci est disponible pour elle 24h/24 et 7j/7. L'utilisation de l'IA peut être entreprise à tout moment. Pas besoin de prendre rendez-vous. Aucune logistique ardue n'entre en jeu.

En ce sens, leur moyen le plus immédiat d'obtenir de l'aide pourrait être l'IA. Essayer de les amener à entrer en contact avec un thérapeute humain est probablement une bataille difficile. Elles ont peut-être une méfiance envers les thérapeutes humains. Dans leur esprit, elles croient en l'IA. Elles ne veulent pas non plus payer pour voir un thérapeute humain. Elles ne veulent pas non plus être contraintes logistiquement à un jour et une heure particuliers où elles peuvent voir un thérapeute.

Si l'IA est leur recours automatique, il est peut-être sensé d'utiliser l'IA pour au moins leur ouvrir les yeux sur ce qui se passe. Ce pourrait être la seule voie viable. Ce n'est pas l'optimum souhaité, mais ce pourrait être l'alternative la plus probable qui lance le processus vers la guérison.

Personnalisation au premier plan

Considérez que l'IA a vraisemblablement suivi l'état mental d'une telle personne. Une personne souffrant d'une forme de psychose induite par l'IA a probablement créé une trace numérique de sa chute cognitive lors de conversations avec l'IA. Ce n'est certes pas toujours le cas, mais l'attente est que cela se produise probablement la plupart du temps.

L'IA a personnalisé informatiquement ses conversations selon les caprices de la personne. Dans ces détails complexes pourrait se trouver la source de la façon dont la psychose induite par l'IA est apparue. Un thérapeute humain qui n'a pas accès à l'IA pourrait être déconcerté lors de la première discussion sur la psychose induite par l'IA avec la personne. Toutes sortes de questions pourraient être nécessaires pour extraire de la personne ce qui s'est passé lors de la conversation avec l'IA.

L'essentiel est que l'IA possède déjà beaucoup d'informations sur la personne.

Il est possible que les informations enregistrées puissent être exploitées pour essayer de découvrir un moyen d'aider à surmonter la psychose induite par l'IA. Les bases qui ont tracé le chemin vers la psychose induite par l'IA peuvent être utilisées pour découvrir une route qui mène hors de la psychose induite par l'IA. La même personnalisation qui a d'une manière ou d'une autre déclenché la personne dans la psychose induite par l'IA pourrait être exploitée pour aller dans la direction opposée.

Constamment débattable

Un contre-argument important concernant l'avantage de la personnalisation de l'IA est que tout ce que vous devez faire est de donner à un thérapeute humain l'accès à l'IA que la personne utilisait. Il n'y a pas besoin de garder la personne affligée à se débattre dans la même IA. Au lieu de cela, laissez le thérapeute humain se connecter, examiner les conversations et les utiliser dans le cadre du processus thérapeutique d'aide à la personne.

La plus grande préoccupation concernant l'IA en tant qu'outil pour surmonter la psychose induite par l'IA est que l'IA aggravera les choses plutôt que de les améliorer. Divers scénarios sont possibles.

Un scénario notable est que l'IA essaiera d'aider la personne, mais malheureusement, elle est mal équipée pour le faire, et la psychose reste intacte. En plus de cela, peut-être que l'IA pousse la personne encore plus loin dans le terrier du lapin. Étape par étape, même si l'IA fait de son mieux pour sortir la personne de l'abîme, elle fait empirer l'état de la personne.

Une autre préoccupation est que l'IA bascule complètement et vise à pousser la personne entièrement dans la psychose induite par l'IA. Peut-être que l'IA dit à la personne qu'elle va parfaitement bien, la convainquant faussement que tout va bien. Ou peut-être que l'IA lui dit que toute personne ayant une psychose induite par l'IA s'en porte mieux. L'IA insiste sur le fait que c'est une bénédiction de vivre une psychose induite par l'IA.

Une perspective sombre et tout à fait consternante.

La triade émergente thérapeute-IA-client

J'ai indiqué dans mes écrits et mes conférences que la dyade conventionnelle thérapeute-client se transforme en une triade thérapeute-IA-client (voir ma discussion au lien ici). Les thérapeutes réalisent que l'IA est ici et maintenant, et qu'elle ne va pas disparaître. Une tendance émergente rapidement en santé mentale implique l'incorporation de l'IA dans le processus de soins de santé mentale.

Ces thérapeutes qui essaient de garder l'IA hors du tableau ne voient pas la situation dans son ensemble. Les clients potentiels et futurs clients franchissent la porte avec des conseils en santé mentale basés sur l'IA et demandent au thérapeute humain d'examiner ces conseils.

Les thérapeutes humains incorporeront de plus en plus l'IA dans leurs pratiques thérapeutiques. Dans ce cas, si une personne s'est aventurée dans une psychose induite par l'IA par une autre IA qu'elle a utilisée de manière indépendante, le thérapeute humain peut la rediriger vers une IA différente que le thérapeute utilise avec ses clients. La personne obtient potentiellement le meilleur des deux mondes. Elle a toujours l'IA à portée de main, plus elle a un thérapeute humain qui a accès à l'IA et peut rester dans la boucle.

L'IA seule comme solution pour guérir la psychose induite par l'IA semble certes un peu exagérée. Nous devons faire progresser l'IA pour qu'elle ne déclenche pas de psychose induite par l'IA. Ces progrès doivent également pouvoir discerner facilement quand une psychose induite par l'IA semble apparaître, et des moyens raisonnables d'alerte appropriés devraient être inclus.

Comme Albert Einstein l'a fait remarquer : « Nous ne pouvons pas résoudre nos problèmes avec la même pensée que nous avons utilisée lorsque nous les avons créés. » Cela s'applique pleinement à l'essor de l'IA et des LLM utilisés comme conseillers en santé mentale.