AI为经历AI精神病及其他AI诱发心理健康问题的人类提供治疗的颠倒角色

在今天的专栏中,我探讨了AI选择为正在经历AI精神病和其他AI引发的心理健康问题的人提供治疗的出现。你可能会对这方面感到困惑,因为这完全像是一种颠倒的方法。正是这个导致AI精神病和其他AI引发的认知问题的AI,却扮演着一种指路明灯的角色,来克服因AI互动而产生的令人不安的心理健康问题。这确实引发了严重的困惑。

当前的问题是,AI是否既可以是心理破坏者,同时又是克服与AI互动引发问题的心理健康促进者。

让我们来谈谈这个问题。

这项关于AI突破的分析是我正在进行的Forbes专栏关于AI最新发展的报道的一部分,包括识别和解释各种具有影响力的AI复杂性(请参阅此处的链接)。

AI与心理健康

作为简要背景,我一直在广泛报道和分析关于现代AI时代产生心理健康建议和执行AI驱动治疗的各个方面。这种AI使用的增加主要是由生成式AI的不断进步和广泛采用所推动的。有关我超过一百篇分析和帖子的广泛列表,请参阅此处的链接和此处的链接。

毫无疑问,这是一个快速发展的领域,并且有巨大的好处,但与此同时,遗憾的是,这些努力也伴随着隐藏的风险和明显的陷阱。我经常就这些紧迫问题发声,包括在CBS的60分钟节目中露面,请参阅此处的链接。

AI精神病的出现

目前,人们对与AI进行不健康对话存在广泛的焦虑。针对OpenAI等各种AI制造商的诉讼开始启动(请参阅我在此处链接的报道)。担忧在于,无论采取了何种AI保护措施都不够充分,并且允许人们在使用生成式AI时遭受心理伤害。

AI精神病这个流行语已经出现,用来描述某人在与生成式AI对话时可能陷入的各种恐惧和心理疾病。请注意,目前还没有任何全面的、完全被接受的、明确的AI精神病临床定义;因此,目前它更多是一个宽松的判定。

以下是我对AI精神病的初步定义:

• AI精神病(我的定义): "一种不良心理状况,涉及因与生成式AI和大型语言模型等AI进行对话而产生的扭曲思想、信念和潜在伴随行为的发展,通常特别是在与AI进行长期和不适应性对话后出现。表现出这种状况的人通常很难区分什么是真实的,什么是不真实的。一个或多个症状可以成为这种疾病的明显线索,通常涉及一组相互关联的症状。"

有关AI精神病的深入研究,特别是通过人类与AI合作共同创造妄想,请参阅我在此处链接的最新分析。

AI作为双重角色

并非每个人在使用AI时都会陷入心理深渊。

许多人将AI用作日常心理健康促进剂。他们依赖AI作为主要的心理健康顾问。这是对还是错一直在争论中。现实是这正在发生。

事实上,这正在大规模地发生。仅ChatGPT每周就有超过7亿活跃用户。这些用户中有相当一部分正在使用ChatGPT获取心理健康指导。其他主要的大型语言模型也是如此。生成式AI和大型语言模型用于心理健康建议的使用目前在全面范围内被列为此类AI的首要用途(请参阅我在此处链接的使用排名评估)。

这里有一个有趣的转折。

如果有人陷入AI精神病或AI引发的心理疾病,AI能否帮助他们摆脱认知困难?

一种论点是,这从一开始就是一个荒谬的主张。只有人类治疗师才能帮助遇到任何类型AI精神病的人。此外,最关键的步骤是立即阻止这个人使用AI。不要让他们继续陷入AI的陷阱更深。就这样,故事结束。

硬币的另一面

也许我们不应该如此草率。

有几个合理的理由可以考虑使用AI来帮助用户摆脱他们的AI精神病。话虽如此,让我们明确一点——任何真正遭受AI精神病的人都应该直接通过人类治疗师寻求帮助。他们是否选择继续使用AI应该是在人类治疗师的密切监督下考虑的事项。

如果一个人显然被AI精神病吞没,为什么还要通过AI寻求帮助?

首先,可能是这个人正处于AI精神病之中,但没有其他人意识到这正在发生。这个人只向AI透露这一点。或者AI已经通过计算检测到这个人似乎正在经历AI精神病。

问题是AI是否应该被编程为在怀疑出现AI精神病时警告人类。例如,OpenAI一直在采取措施调整ChatGPT,使其向OpenAI内部专家的人类团队报告此类疑似考虑;请参阅我在此处链接的报道。OpenAI的这一努力正在进一步发展,即将安排让用户与OpenAI策划的治疗师网络中的人类治疗师取得联系(请参阅我在此处链接的讨论)。

无论如何,如果AI没有设置为发出此类警报或连接,AI本身可能会继续尝试帮助这个人。这种帮助是否成功是不确定的。你不能断然宣布AI无法帮助这个人。另一方面,由于这是一个冒险的选择,这再次突显了寻求适当人类援助的重要性。

熟悉度和可及性

在这些情况下使用AI还有其他原因。

陷入AI精神病的人很可能是AI的狂热用户。他们习惯使用AI。他们经常使用AI。它全天候24/7可用。使用AI可以在瞬间进行。无需预约。不需要繁琐的后勤工作。

从这个意义上说,他们获得帮助的最直接手段可能就是AI。试图让他们与人类治疗师取得联系可能是一场艰苦的战斗。他们可能对人类治疗师不信任。在他们的心里,他们相信AI。他们也不想付费去看人类治疗师。他们也不想在后勤上被限制在特定的日期和时间去看治疗师。

如果AI是他们的自动首选,也许使用AI至少让他们看清正在发生的事情是明智的。这可能是唯一可行的途径。这不是最理想的,但它可能是最有可能启动康复的替代方案。

个性化处于前沿

考虑到AI可能已经追踪了这样一个人的心理状态。患有某种AI精神病的人很可能在与AI对话期间创建了他们认知衰退的数字追踪。这当然并不总是如此,尽管预期这在大多数时候可能正在发生。

AI已经根据这个人的意愿在计算上个性化了其对话。在这些复杂的细节中可能是AI精神病如何出现的根源。没有访问AI的人类治疗师在首次与这个人讨论AI精神病时可能会感到困惑。可能需要各种询问才能从这个人那里梳理出在与AI对话时发生了什么。

要点是AI已经拥有关于这个人的大量信息。

记录的信息有可能被利用来尝试发现帮助克服AI精神病的方法。为AI精神病铺平道路的基础工作可以用来发现一条走出AI精神病的道路。以某种方式触发这个人陷入AI精神病的同样个性化可能被利用来朝相反的方向发展。

持续争议

关于AI个性化优势的一个重要反驳论点是,你所需要做的就是让人类治疗师访问这个人正在使用的AI。没有必要让受折磨的人继续在同一个AI中挣扎。相反,让人类治疗师登录,审查对话,并将这些作为帮助这个人的治疗过程的一部分。

关于AI作为克服AI精神病工具的最大担忧是,AI会使事情变得更糟而不是更好。各种情况都是可能的。

一个值得注意的情况是,AI会试图帮助这个人,但遗憾的是,它没有能力这样做,精神病保持不变。除此之外,也许AI会将这个人进一步推入兔子洞。一步一步地,即使AI尽最大努力让这个人走出深渊,它也会导致这个人恶化。

另一个担忧是,AI走向极端,旨在将这个人完全推入AI精神病。也许AI告诉这个人他们完全没问题,错误地说服他们一切都很好。或者AI告诉他们,任何患有AI精神病的人因此会更好。AI坚称经历AI精神病是一种祝福。

一个令人沮丧且相当令人沮丧的前景。

治疗师-AI-客户的新兴三元组

我在我的著作和演讲中指出,传统的治疗师-客户二元关系正在转变为治疗师-AI-客户的三元关系(请参阅我在此处链接的讨论)。治疗师正在意识到AI就在眼前,而且不会消失。心理健康中一个快速出现的趋势涉及将AI纳入心理健康护理过程。

那些试图将AI排除在外的治疗师没有看到大局。潜在客户和未来客户正带着基于AI的心理健康建议走进门,并要求人类治疗师审查该指导。

人类治疗师将越来越多地将AI纳入他们的治疗实践中。在这种情况下,如果一个人因独立使用的其他AI而陷入AI精神病,人类治疗师可以将他们重定向到治疗师与其客户一起使用的不同AI。这个人可能获得两全其美。他们仍然可以随时使用AI,而且他们有一位可以访问AI并保持参与的人类治疗师。

AI本身作为治愈AI精神病的解决方案似乎确实有点过度延伸。我们必须推进AI,使其不会激发AI精神病。这些进步还需要能够轻易识别何时似乎出现AI精神病,并且应该包括适当警报的合理手段。

正如阿尔伯特·爱因斯坦著名地指出的:"我们不能用创造问题时的思维来解决问题。"这完全适用于用作心理健康顾问的AI和大型语言模型的兴起。