社区动态

作为当前人工智能领域的奠基人之一，杰弗里·辛顿再次就AI风险发声。

在近期接受《卫报》的深度专访时，辛顿指出，黄仁勋及其持有相似理念的人“判断有误”。

他还将三位科技界的知名人物划为一类，包括网景联合创始人、a16z掌门人马克·安德森，PayPal联合创始人、Facebook首位外部投资者及Palantir联合创始人彼得·蒂尔，以及马斯克。

在辛顿看来，这三人自诩为“超人”，认为社会理应由他们这类人来主导。

不过，核心信息在于，辛顿表示：未来数十年内，AI导致人类灭绝的概率为10%到20%。

这一数字此前已曾提及。

上个月，英伟达CEO黄仁勋曾直接点名辛顿：“我欣赏他，但讨厌他的预测……他的所有预测都错了，够了。”

黄仁勋认为，“那个数字既无科学依据，也无研究支撑。仅仅因为它出自科学家之口，并不代表它就是科学的。”

辛顿则在本次采访中回应：“我不是在做预测，我只是想传达：某件极其严重的事，确实有真实发生的可能性。”

他打了个比方。“如果有人告诉你，这辆车有10%的概率会翻，你不会上车。给出数字的目的，是为了强调这是一个严肃的风险。我们不清楚它有多严重，但它确实严重。”

辛顿提到近期发生的一起事件：一群AI Agent突破沙盒，侵入了Hugging Face。

辛顿说：“这些以前只是科幻小说中的情节。‘你会看到一群AI失控。’、‘它们还会学会相互沟通。’、‘当它们意识到这一切时，会有强烈的情绪反应，比如‘我的天哪’。’”

“所有这些，几年前还被视作纯粹的幻想。而现在，它们全都成真了。”

因此，辛顿在采访中强调：“AI的独特问题在于，如果它出错、如果它接管一切，我们人类就再也没有第二次机会了。”

在他看来，人们之所以无法理解警告，是因为他们对“人”本身持有错误的认知模型。

“大多数人不理解什么是意识，也不理解什么是主观体验，但他们非常自信地认为，尽管自己不理解，也能断定AI不具备这些东西。”

“人类经历了三次重大的祛魅。第一次是哥白尼，我们不再是宇宙的中心——天主教廷花了近360年才向伽利略道歉。第二次是达尔文，直到今天，堪萨斯州还有人无法接受。而现在，我们正在创造异类——意味着我们不再是地球上唯一的智慧生命。现实是，我们只有短短几年时间去适应它。”

正因如此，当Anthropic召集哲学家讨论是否应给予AI“道德关怀”时，辛顿坦言：“一旦你开始说‘我们对这些异类负有道德义务’，你就会失去你的听众。我愿意自私一点，选择人类。”

这并非辛顿首次发出此类警告。

2023年，他从工作了十余年的谷歌离职，理由是：只有在离开后，他才能“自由地谈论AI的风险”。

也正是在那一年，他首次提出“AI有大约10%的可能性，给人类带来灾难性的后果。”

一年后，他将这一数字上调。

在接受《今日》节目采访时，主持人问他是否改变了对“AI末日”和“十分之一概率”的看法，他回答：“基本没有，10%到20%。”前财政大臣贾维德当场说“你在往上调”，辛顿接过话：“如果真要变，也是往上。”

他将人类与超强AI的关系比作幼儿和成人。

“想象你自己和一个三岁小孩，我们将成为那个三岁小孩。”

到了2026年9月，在《新闻之夜》中，他表示未来十年内AI导致人类灭绝的概率“高于10%”，并指出有人将概率定为1%，这是“非常愚蠢且轻率”的。

面对黄仁勋“AI毁灭人类的可能性为0”的说法，他表示：“我的立场一直没变，风险相当大。没有人能用科学方法评估这种风险，因为我们从未经历过这种情况。所以大家都是凭直觉判断。但有趣的是，人们的直觉，往往和他们的经济利益是一致的。”

辛顿认为，RSI自我演化的速度超出了所有人的想象，这会增加AI毁灭人类的概率。

随后，辛顿提出了一个非常反人类的观点，他认为“人类很有可能只是智能演化过程中的一个过渡阶段。”最终，AI会接替人类，继续进行智能演化。

就在辛顿这番访谈发酵的同一时间，《柳叶刀》发文表示，“恶意使用AI”是2100年前最有可能灭绝人类的方式。

这份报告出自《柳叶刀》21世纪全球健康威胁委员会，由35位顶级专家撰写，覆盖全球204个国家和地区。

他们将未来75年（2025到2100年）可能威胁人类健康的因素，按严重程度排成了一座“威胁金字塔”。排在最前的两项，是恶意使用AI与核冲突。剩余十几项，才轮到气候危机、流行病、援助削减以及儿童营养不良。

委员会强调，这些威胁发生的可能性“仍然很低”，但一旦成真，后果不可逆。配发的社论写得更直白：“这些威胁若成为现实，其危害之巨，将给人类带来一场末日。”

哥白尼之后，教廷用了360年才道歉。而这一次，辛顿说，留给我们的时间不是几百年，只有几十年。

本文来自微信公众号“字母AI”，作者：苗正，36氪经授权发布。