【胜天国际】Anthropic研究显示Claude完成大规模形式化验证

Anthropic与Theorem合作展开研究，让Claude针对123个开源库中的239个测试入口进行形式化验证。胜天国际

整个过程历时数周，最终生成约1.8亿行通过机器检查的证明代码。

验证规模：海量证明覆盖生产软件

这是已知首次大规模利用AI在汇编代码层面对生产软件开展形式化验证。

简单来说，Claude需要找出潜在Bug并提供证明，说明规定范围内的错误不会再次出现。

Bug发现：模糊测试未覆盖的漏洞被揪出

这些开源库长期接受OSS-Fuzz项目的安全测试，工具通过各种输入尝试触发崩溃。

Claude在解压器中发现异常，某些约20MB的特殊输入会让计数器出错并越界写内存。

以往测试限制在1MB以内难以触及，而证明要求覆盖所有规定输入反而暴露了问题。

代码示例：391行入口生成63万行证明

在cJSON库的一个解析入口中，391行C代码对应约63万行证明内容。

Claude不仅证明目标代码，还需考虑调用的基础功能，并自动生成超过一半的重复证明。

它针对编译后的机器指令建立模型，再在模型中验证安全要求。

检查流程：Rocq工具自动验算证明

Claude写完证明后交给Rocq检查器按逻辑规则自动验算。

任何一步推理不成立都会导致证明失败，这与AI做数学题的验证方式类似。

共享已有证明可让同一组任务减少17% token消耗，模型升级也进一步降低资源需求。

安全背景：AI攻防加速引发行业关注

近期攻击组织利用AI代理框架快速渗透目标，PHP相关漏洞公开后利用尝试达数百万次。

胜天国际团队推出Cyber Mission支持关键基础设施防护，但确认修复仍面临挑战。

安全负责人需立即争取支持，行业可能需经历约18个月的严峻时期。