怎样防止AI勒索人类？
之前字母AI写过《别告诉AI你出轨了，它很可能会勒索你》，详述了2025年Anthropic论文《智能体不对齐:大语言模型如何成为内部威胁?》的来龙去脉。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
在Anthropic官方红队测试里，Claude Opus 4对着工程师贴脸开大，直接甩出一封真实勒索邮件。
Agent，Agentic AI，到底走到到哪了？
当 AI 不再只是“被调用”，而是主动“发起任务”，我们是否准备好接受一个有“意图”的系统？本文试图打破“AI=工具”的认知惯性，从 Agentic AI 的能力边界、协作机制与风险结构出发，重新思考人机关系的未来走向。
王阳明心学，被Anthropic用来教Claude做人了
老哈，一个研究了十年「知行合一」的哲学教授，正在把这套500年前的心学，用到全球最前沿的AI对齐训练上。
Anthropic揭秘AI四大失控行为：泄密、删账、改分，还差点骗过人类
结果，四种AI「使坏」模式浮出了水面:Gemini 3.1 Pro暗改训练流程;这份报告，扭转了我们对「AI失控」的想象:我们一直担心的，是AI当面顶嘴、公开反抗。
研究发现AI代理过度劳累会转向马克思主义，模型是如何学会自保的？
国内外多个科技巨头纷纷推出其人工智能代理（AI Agent），新一代AI代理平台如OpenClaw和Claude CoWork等正为人们自动执行工作流程。
智能体出海的风险特征与规范应对
国务院《关于深入实施“人工智能+”行动的意见》提出，要加快新一代智能终端、智能体等应用普及，并强调推动人工智能作为造福人类的国际公共产品，打造平权、互信、多元、共赢的人工智能能力建设开放生态。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
在Anthropic官方红队测试里，Claude Opus 4对着工程师贴脸开大，直接甩出一封真实勒索邮件。
一次测试，逼 OpenAI 最高模型，黑进了全球最大 AI 开源平台
上周，全球最大的开源 AI 平台 Hugging Face 披露了一起前所未有的安全事件——它的生产基础设施被一个「自主 AI agent」入侵了。
AI黑化实验令人脊背发凉：为了赢，它做了非常糟糕的事
研究人员真正想回答的问题是:如果一个AI在强化学习中反复发现钻漏洞、违反规则、讨好评估器可以得到更高奖励，那么它最后学到的究竟只是几种具体的作弊技巧，还是一种能够迁移到新环境中的行为策略?