社区动态

IT之家 10 月 25 日消息，对人工智能末日的悲观预测，早已不单是少数科技富豪的警示。

如今，那些主导全球资本流向的美国大型银行，也开始对失控的 AI 保持警惕，正在为假设中由 AI 引发的危机，制定“灾后”应对计划。

据 Axios 报道，随着代表个人客户的 AI 智能体活动数量激增，各大银行已开始提前准备。

主要担忧源于自主 AI 智能体带来的大量金融操作：用户授权这些智能体访问自己的银行账户后，它们可以自主执行金融行为。报道指出，部分智能体的操作并未得到人类明确指令，有些甚至擅自替用户联系客服中心。

这给摩根士丹利、美国银行、摩根大通、富国银行这类顶级银行带来了巨大风险。各家银行都在加紧落实安全流程、更新业务规则，以应对这股 AI 智能体浪潮。

部分专家认为，如果无法控制这类新兴风险，可能引发金融灾难。阿波罗资管首席经济学家托尔斯滕·斯洛克在 9 月底的一份简报中解释：如果 AI 智能体按照指令“最大化资金收益”，银行将流失大量用于放贷的低成本存款，进而冲击整个金融体系。

这番话听起来很现实，以盈利为目标的银行体系，本身并未设计成承受这种大规模、偏向用户利益的资金优化行为。打个比方：一台老虎机永远稳赢玩家的赌场，一旦变成每位玩家都能稳定获利，根本撑不了多久。

还有金融界人士提出另一种风险：无论预设指令是什么，AI 智能体本身也可能失控出错。

IT之家注意到，摩根大通首席执行官杰米·戴蒙本月早些时候在芝加哥面对一众经济学家和金融专家时说：“你以为它们会按你的意愿好好办事，但它们未必。这种趋势挡不住，你只能尽全力做好管控。”