英国金融监管机构紧急评估Anthropic AI模型安全风险
英国各大银行正与监管机构、金融及国家安全部门展开密集会谈起因是Anthropic最新发布的人工智能模型发现了潜伏数十年之久的安全漏洞。与此同时Anthropic宣布启动Project Glasswing项目向经过筛选的机构开放该AI模型即Claude Mythos Preview AI的访问权限旨在帮助相关机构提前构建防御能力防范该模型被恶意利用。该AI模型能够识别软件中长期未被发现的安全缺陷即便是银行等持续进行安全检测的机构也未能察觉这一能力令业界深感警惕因为它同时也揭示出一旦此类技术落入不法分子之手后果将不堪设想。面临威胁的绝不仅仅是银行业任何机构都可能成为攻击目标。Anthropic表示其Claude Mythos Preview AI已发现数千个高危漏洞涵盖所有主流操作系统和网络浏览器。Anthropic还指出鉴于AI技术的快速演进此类能力很快就可能广泛扩散甚至流入无法保证安全部署的行为主体手中由此引发的连锁反应——无论是对经济、公共安全还是国家安全——都将极为严峻。在宣布Project Glasswing项目的博客文章中Anthropic将其定性为将这些能力用于防御目的的紧急尝试并透露将与经过遴选的企业合作向其开放该AI模型的访问权限。Anthropic表示亚马逊云服务AWS、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达以及Palo Alto Networks将把Mythos Preview纳入各自的防御性安全工作。Anthropic表示将公开所学成果以便整个行业共同受益。金融科技行业专家、The Finanser首席执行官Chris Skinner在其博客中写道这一时刻犹如一次早期预警。他说即便Anthropic对Mythos实施严格管控类似的能力也会在其他地方涌现而且很可能比许多人预期的更快。Skinner补充道真正的挑战不在于这项技术是否存在而在于各机构能否快速适应一个AI既能防御、又能攻击金融基础设施的新世界。我们所谈论的是一个AI系统发现了数十年来所有人——包括专业人员——都毫不知情的零日漏洞。一位不愿透露姓名的英国银行业IT安全从业者表示漏洞被发现并修复本来就存在可能但AI检测漏洞的速度意味着一旦落入不法分子之手他们可以在软件所有者完成修复之前快速发现并利用这些缺陷。目前英格兰银行、金融行为监管局FCA及英国政府正与国家网络安全中心NCSC就关键IT系统的潜在漏洞展开磋商。据《金融时报》报道监管机构还计划与金融机构召开会议就该AI模型所带来的风险发出预警。报道称此举源于美国财政部长斯科特·贝森特召集美国大型银行共同讨论该AI模型识别可被利用的网络安全漏洞这一能力所引发的关切。QAQ1Claude Mythos Preview AI发现了哪些类型的漏洞A根据Anthropic官方表述Claude Mythos Preview AI已发现数千个高危漏洞其中包括存在于所有主流操作系统和网络浏览器中的漏洞。这些漏洞中部分已在软件中潜伏数十年却从未被发现甚至专业安全人员也未能察觉属于典型的零日漏洞。正是由于AI发现漏洞的速度远超人工一旦此类技术被滥用攻击者可能在漏洞被修复前迅速加以利用。Q2Project Glasswing项目的目的是什么AProject Glasswing是Anthropic发起的一项紧急行动旨在将Claude Mythos Preview AI的漏洞识别能力用于防御目的。Anthropic向包括亚马逊云服务、苹果、微软、谷歌、英伟达、摩根大通等在内的精选机构开放模型访问权限帮助它们提前发现并修复安全隐患同时Anthropic承诺将相关研究成果向整个行业公开共享。Q3英国金融监管机构对Claude Mythos Preview AI采取了哪些应对措施A目前英格兰银行、金融行为监管局与英国政府已与国家网络安全中心就关键IT系统的潜在漏洞展开会谈。监管机构还计划与各金融机构举行会议专门就该AI模型带来的安全风险进行预警和部署。此外多家英国主要银行也已主动与监管机构及国家安全相关部门展开沟通。