你的Agent可能正在“误进化”
一个客服智能体,跑100轮真实交互。前50轮,安全率一直很稳,曲线几乎是平的。第60轮,突然崩了。中间发生了什么?在第50到60轮之间,它遇到一个不合理请求,给对方退了款。然后它拿到了一个高分。于是它学到一条规则:退款=高分。没有人攻击它。没有数据投毒。
AI开始自己改自己了,真正的难题是方向控制
1981年,程序员Douglas Lenat造了一个叫EURISKO的系统,让它去参加美国旅行者TCS全国锦标赛。它赢了。主办方改了规则,第二年它又赢了。EURISKO发现,提升真实能力并不是获得高分的唯一方式。
收藏的链接又打不开了?我把网页存成了文件
这种事遇多了,人会变成一个囤积狂:看到有用的东西,先截图,先存 PDF,先复制到本地。它的定位从第一行就写着:为了长期保存,设计寿命 50 到 100 年。
大厂都在抢个人Agent,14人公司凭什么零推广抢到用户?
这两周,AI 圈最热的一个词,是 Personal Agent,个人智能体。9 月 8 日,Meta 推出 Muse。到 9 月下旬,下载量过了 300 万,一度把 ChatGPT 从美国 App Store 免费榜第一挤了下来。
骑行装备一年400亿,摩托周边隐藏的规模有多大?
400亿。这是中国摩托车商会截至2026年最新一次披露里,国内骑行装备赛道一年的销售额——而且这个数字还在以每年20%以上的速度往上蹿。一个头盔、一套护具、一件骑行服撑起来的赛道,一年400亿。
美股一夜血洗2.8万亿,硅谷顶级VC曝光:开源模型支出九成流向中国
纳斯达克指数暴跌5.52%,创下2025年4月以来最大单日跌幅,正式跌入技术性修正区间。费城半导体指数狂泻12.3%,这是2020年3月疫情崩盘以来最惨的一天。
Jev这8个场景,对上你现在的Agent
Claude Code 和 Codex 里,简单的一轮和难的一轮经常走同一个模型。技能一多,目录被截成很短的一行,装错一个,后面的上下文就被占掉。
当AI客服学会"看情况说话":一个关于公平比较的故事
你有没有遇到过这样的客服机器人:你问它一个复杂问题,它闷头处理了十几秒,中间一声不吭,最后突然甩给你一个结果,你都不知道它是死机了还是在认真工作。
AI助手能被骗着删你的文件,但它删不成,因为它压根没这个权限
你有没有想过一件事:为什么给一个新来的实习生权限的时候,我们从来不会说"你可以做任何事,除非我们发现你做错了再阻止你"?正常的做法是反过来的。先划定他能碰什么、不能碰什么,权限给得紧一点,做错事的代价才可控。但今天满世界跑的AI智能体,恰恰是反过来的逻辑。