Anthropic 正在构建一套用于证明 AI 模型身份的系统，目标是让调用方能够验证响应究竟来自哪个模型、哪个版本，而非仅凭 API 端点自述。随着模型被封装进代理、微调分支与第三方中转服务，模型身份的可信度成为安全与合规的关键缺口——攻击者可借「冒充强模型」实施提示注入或降低输出质量而不被察觉。该机制若落地，可能涉及密码学签名、模型指纹或可信执行环境等路径，并与模型卡、审计日志形成配套。对企业的直接影响是：未来采购 AI 能力时，「模型来源可验证」有望成为与准确率并列的评估维度，尤其在金融、医疗等受监管行业。挑战在于性能开销、开源模型的可验证性，以及跨厂商标准能否统一，否则可能演变为又一套各自为政的认证体系。

📌 原文来源：TechCrunch

🔗 阅读原文

内容基于公开资讯整理生成，仅供学习参考。