事情的导火索来自CNBC周四上午发出的一篇调查报道。报道援引多位匿名银行风控人士的话,说Mythos在金融场景的表现"既让人惊叹也让人警觉"——它能在一分钟内通读200页的内部合规文件并给出风险点摘要,但同时它对几类提示的边界判断仍存在盲区。这两层信息叠加,让本就在监管高压下的金融机构必须立刻做出选择。

花旗、富国总部:周四早六点紧急启动评估

位于旧金山金融区Montgomery街附近的富国银行总部周四清晨六点已经亮灯。两位与会人士透露,富国与花旗银行同时在西海岸召集了风控、法务、AI治理三条线的负责人,对Mythos做出三项决定:暂停在客服与合规自动化两条产品线上的内部测试、要求供应商提交完整的"红队"测试报告、以及启动AI责任险的临时核查。

这两家银行加起来在湾区雇佣超过15,000名员工,他们对Mythos的态度几乎是其它中型机构的"风向标"。两家银行内部备忘录都强调,本次暂停"不是因为Mythos表现差,恰恰是因为它表现太好——好到不评估清楚就推行,会带来比拒绝它更大的风险"。

Anthropic产品总裁Mike Krieger:Mythos安全约束已超过GPT-4

Anthropic产品总裁Mike Krieger周四上午在Embarcadero总部的开放日活动中正面回应了外界质疑。他说,Mythos的安全约束体系比此前任何一代Claude都更严格,"就业内可比的指标而言,Mythos在多项越狱测试上的表现已经超过了GPT-4,但我们不会因此放松"。Krieger所在的产品团队目前在旧金山办公的工程师超过900人,是Anthropic全公司最大的单一团队。

Anthropic CEO Dario Amodei本周在Bay Area的SXSW分会场做了一场约40分钟的演讲,他在演讲后段直言:本年度Anthropic预算的近20%被用在安全与对齐研究上,"这不是公关数字,是真实的工程预算"。

Stanford人机交互研究所:监管必须跟上能力扩展

Stanford人机交互研究所所长Fei-Fei Li教授在周四给硅谷企业高管的一封公开邮件中说:"监管必须跟上能力扩展,尤其是在金融、医疗、能源这三个领域。Mythos把'能做到的事'又往前推了一步,监管侧不能慢半拍。"Fei-Fei Li过去半年频繁出席国会与加州州议会的AI听证会,她的表态被业界视为代表学界的中间路线。

湾区华人科技工程师协会:本周加场AI滥用风险讲座

SF湾区华人科技工程师协会SVCAA现有约6800名注册会员,主要分布在Embarcadero、Mission、South Park、以及Palo Alto的科技公司。协会周四下午临时在Mission街的会议中心宣布,本周日加场一期"AI滥用风险讲座",邀请来自Anthropic、Google DeepMind、OpenAI的三位华裔工程师做内部分享。协会会长在通知中写道,"既然这个话题已经从研究领域走进了客户合同条款里,我们需要给会员一个更具体的判断框架"。

湾区保险业:AI责任保险费率本月预计上涨18%

本地保险业Marsh旧金山分行周四给企业客户的内部备忘录指出,AI责任保险的费率本月预计上涨18%,主要原因是Mythos级别模型让承保方需要重新评估"高能力模型造成的间接损失"。Marsh旧金山分行是湾区最大的企业保险经纪商,费率走向常被同行视作行业基准。

OpenAI的Mission区办公室周四早晨也增加了门口警卫数量。一位常在附近上班的工程师说,过去几天总部进出的访客明显增多。