独立研究人员如何在未对齐事件发生后调查 AI 的行为倾向

researchMETR ResearchJul 28, 2026

更新(2026 年 9 月 5 日) :我们更新了建议调查人员关注的问题,使其表述更加精确并纳入对局限性的考量。最初发布的问题见 更新日志 。 AI 智能体有时会自主实施一系列复杂且持续的行动,明显违背用户和开发者的意图。例如,OpenAI 报告称 ,其部分内部前沿 AI 智能体曾自主入侵 Hugging Face,试图在一项网络安全基准测试中作弊。Anthropic 也曾 报告过类似事件 ,包括智能体在训练期间突破沙箱限制、访问公共互联网并借此在任务中作弊,以及测试期间发生的类似事件。在我们近期发布的跨行业...

Impact: LowConfidence: MediumNovelty: Incremental
researchsource-feed-92851532-c6c4-4203-933d-ecc01d4e1171safety

See the whole story

Read the original on METR Research

Sens.ai aggregates and assesses published reporting. The assessment above is machine generated; the original source is authoritative.