朋友们大家好,今天我们来聊聊最近AI圈那场轰轰烈烈的“内斗”。

这也是我星辰大海系列的第二篇，有兴趣的小伙伴，可以查看下合集星辰大海系列。

事情的起因是OpenAI董事会的改组。OpenAI的联合创始人之一伊利亚·萨特奥斯基(Ilya Sutskever)与另一位创始人山姆·奥特曼(Sam Altman)发生了严重分歧,导致伊利亚退出了董事会。这两位创始人代表了AI行业两大主要派系:有效加速主义(Effective Altruism Constructor, EACC) 和 **有效利他主义(Effective Altruism,EA)**。

加速派如山姆·奥特曼,主张利用资本和技术的力量快速推动AI创新,实现新的社会革命。在这一派系看来,新技术将改变人类社会,必然会带来好与坏,但这都是人类不可避免需要面对的。利他派如伊利亚·萨特奥斯基和他的导师杰弗里·辛顿(Geoffrey Hinton),则认为一旦出现通用人工智能(AGI),形势就会超出人类的控制。他们担心,人类与AGI的关系,可能会像人类与动物的关系一样,动物没有话语权。所以,必须谨慎对待AGI的发展。

这两派的根本分歧在于,是否乐观地相信人类有控制新技术的能力。加速派坚信科技进步本身就是好的,它能创造更美好的未来;而利他派则警告存在巨大风险,主张谨慎行事。

然而,这场“内斗”的导火索,最后被揭露竟然是OpenAI内部的一位匿名研究员,他在给董事会的一封匿名信中透露,公司已经在研发一种名为Q*的新型AI模型,这种模型掌握了数学推理能力,将对人类构成重大威胁。信中特别提到,Q*掌握数学能力意味着它将拥有更强大的推理和学习能力。奥特曼事先已经知道这个消息,但却对董事会隐瞒。消息一出,董事会立即进行了改组。

值得注意的是,奥特曼此前公开表示,OpenAI的最新研究成果将迎来史上最大的突破,这似乎就是指Q*。那么问题来了,为何奥特曼如此看好Q*,却要在董事会隐瞒这一信息?这表明,他并不希望其他董事和公众过早知晓Q*可能带来的风险。这充分说明,奥特曼完全站在加速派立场,追求技术突破而忽视潜在威胁。

新任董事会主席是硅谷传奇Bret Taylor,成员还包括美国前财政部长,代表了政府和监管机构的力量。这说明,Q*的威胁性极大,已上升到政府层面。利他派的担忧成真,AGI的风险开始威胁到全人类。

另一方面,伊利亚作为利他派的代表,也成为这场斗争中最大的牺牲品。他原本只是想制衡奥特曼,但结果是公司全面倒向奥特曼一边;他也没有想到自己一手开发的模型无法有效控制Q*,无法遏制风险。最后,在OpenAI员工和投资人的哀求下,他选择签署安全协议保密条款,退出公司。这说明利他派的担忧是合理的,但目前还没有有效手段控制Q*这样的新型AGI。

朋友们,这不是一场普通的公司内斗,而是人类历史上的一次重大技术革新和道德选择。首个AGI的出现,将决定人类的未来。我们最后还是引用伊利亚的一段话作为结语:

“第一代AGI的信念和欲望非常重要,所以正确编程它们是很关键的。如果不这样做,自然选择会青睐那些以自我利益为先的系统。”
我们无法预测科技的未来,它可能美好,也可能充满危机。但唯有理性和审慎,才能使我们受益于科技进步的同时,避免可能的灾难。

希望大家在关注科技发展的同时,也思考人与科技、人与自然的和谐共生。