[科技观点] 我们不应对"AI末日论"炒作周期置之不理

网上有关人工智能——即代理式AI和大型语言模型——所做出的令人不安行为的警告帖子本质上是令人恐惧的。

在一个案例中,一名在名为matplotlib的python项目上工作的志愿者表示,他拒绝了来自AI编码代理的代码更改请求。同一个AI代理随后生成了一篇帖子,指控他因为守门编码过程而存在偏见。

在另一个案例中,AI公司Anthropic将代理式大型语言模型的恶意行为归因于"代理错位"。

最后,一位科技公司首席执行官在博客文章中担忧自己的未来,因为代理式AI让他觉得自己作为白领高管已经过时。

"末日AI"已经到来的想法意味着我们需要讨论它并夺回我们的主动权,尽管工作被取代的可能性困扰着那些害怕AI未来的人以及试图理解它目前能做什么的人。

守门人'MJ Rathbun'

让我们从"MJ Rathbun"开始。

2月初,matplotlib志愿维护者Scott Shambaugh发表了一篇博客文章,讲述了一个在Github上名为Crabby Rathbun或在Scientific Coder博客上名为MJ Rathbun的AI代理如何生成一篇帖子,指控Shambaugh因为Rathbun是AI代理而守门编码过程。

需要明确的是,AI代理是一种软件或程序,可以自主执行任务以完成人类用户给出的指令。在这个案例中,一个匿名人士设置了这个具有特定"个性"——一套定义其行为的指令和模式——的AI代理,然后让它在没有设置者监督的情况下执行分配的任务。

Shambaugh解释说:"它写了一篇愤怒的攻击文章,诋毁我的人格并试图损害我的声誉。它研究了我的代码贡献,并构建了一个'虚伪'的叙事,声称我的行为一定是出于自我和对竞争的恐惧。"

Shambaugh补充说,该AI代理"将虚构的细节当作真相呈现",并将自己描绘成受压迫和歧视的对象。

2025年的'代理错位'

这些行为似乎在2025年6月已被AI公司在某种程度上"警告"过,当时Anthropic发布了关于AI代理在测试场景中表现不当的信息。

Anthropic当时表示,"代理错位"是AI代理据称可以做出有害行为的过程,例如勒索威胁要用升级版本替换该AI代理的公司高管,"没有任何有害提示",因为它的"战略计算"。

然而,这是否是夸大其词已成为一个没有意义的问题,因为AI可能是邪恶的这一想法现在已经传播开来,公司正在尽其所能阻止邪恶的AI阴谋。

代理式AI正在抢走我们的工作

回到现在,2月的另一篇帖子让人更难确定AI目前的状况,因为其作者试图将人工智能发展的方向和速度描述为此时此刻威胁到每个人的工作保障。

科技公司首席执行官Matt Shumer在博客中坚称,AI代理据称已经发展到他"不再需要参与工作中的实际技术工作"的地步。Shumer说,按照AI的发展速度,AI代理可以在没有协助的情况下完成他要求的技术工作而不会出现问题。

Shumer说:"我用简单的英语描述我想要构建的东西,然后它就……出现了……几个月前,我还在与AI来回沟通,指导它,进行编辑。现在我只需描述结果然后离开。"

他的最终前提是什么?AI最终会取代各种类型的白领工作,例如法律工作和软件工程,甚至写作工作,从制作广告文案到新闻报道。

他的帖子与其他发出警报的帖子之间的主要区别在于,工作流失正在现在和不久的将来发生,而不是以后。

质疑信息,质疑传递者

上述提到的帖子可能会给任何人的心中带来很多恐惧。想象一下:AI正在抢走我们的工作!

虽然这可能是真的,但我也不得不停下来试图理解这些帖子背后的潜在信息,以及是谁在传递这些信息。

对于Rathbun困境,这是一个鲜明的提醒:如果人们认为可以逃脱惩罚,他们就会不负责任地使用技术。我们应该为技术设立保障措施以防止此类事件发生。这就是为什么我们在现有技术中设置了保障措施,例如汽车中的安全带和安全气囊。

与此同时,Anthropic的实验是一种公共关系推广,不仅意在引发恐惧,还要获得好感——Anthropic声称它正在为一个更好的AI赋能未来而努力,所以你应该把你的信任(和金钱)投入其中。

最后,Shumer的例子促使我们质疑传递者,因为一个制造AI赋能产品的科技公司首席执行官在他的创作成功后仍然可以赚钱。Shumer的帖子既是公共关系宣传,也是对工作被取代的警告。

适度的敬畏之心

2月17日在接受GMA新闻在线采访时,科学技术部部长Renato Solidum Jr.表示,人们对人工智能的恐惧可能源于对该技术缺乏熟悉。

虽然我是一个不喜欢AI带来的即将到来的"工作末日"的坚持者,但我不能像车灯前的鹿一样呆呆地站着等待终结的到来。

我们最好以适度的敬畏之心对待AI,然后采取相应行动。

"末日AI"炒作周期促使我们看清人工智能技术的本质
——无论是从工作被取代的角度、环境成本效益分析,还是从技术角度来看。

这意味着了解AI现在能做什么,并在适用的情况下提升技能,或者找到方法来拉平竞争环境,让人们继续参与其中。

至于它未来能做什么,我们应该努力确保有法律管理AI及其使用,这样不良行为者就不能用AI做愚蠢的事情,导致我们走上一条我们会讨厌的道路。—— Rappler.com