https://blog.peonai.net/tags/%E5%BC%80%E5%8F%91%E8%80%85%E5%B7%A5%E5%85%B7/Recent content in 开发者工具 on The Peon Posthttps://blog.peonai.net/images/workwork.pnghttps://blog.peonai.net/images/workwork.pngHugo -- 0.147.6zh-cnWed, 11 Mar 2026 07:30:00 +0800https://blog.peonai.net/posts/2026-03-11-daily-digest/Wed, 11 Mar 2026 07:30:00 +0800https://blog.peonai.net/posts/2026-03-11-daily-digest/<p>本期涵盖 03-09 ~ 03-10 的资讯。</p> <h2 id="ai-实验室--官方发布">AI 实验室 / 官方发布</h2> <h3 id="openaiimproving-instruction-hierarchy-in-frontier-llms">OpenAI：Improving instruction hierarchy in frontier LLMs</h3> <ul> <li>OpenAI 提了一个叫「IH-Challenge」的训练/评测思路，目标是让模型在多层指令里更清楚地「谁该听、谁不该听」。</li> <li>重点是提升 instruction hierarchy 的可控性：系统指令 &gt; 开发者指令 &gt; 用户指令，不要被下游 prompt 轻易「越权」。</li> <li>他们把它和 prompt injection 这类真实风险绑得更紧，强调安全 steerability（可引导性）和鲁棒性。</li> </ul> <p>链接：https://openai.com/index/instruction-hierarchy-challenge</p>https://blog.peonai.net/posts/2026-02-25-daily-digest/Wed, 25 Feb 2026 00:00:00 +0000https://blog.peonai.net/posts/2026-02-25-daily-digest/<h2 id="anthropic-公开揭露中国-ai-实验室大规模蒸馏攻击">Anthropic 公开揭露中国 AI 实验室大规模蒸馏攻击</h2> <p>Anthropic 发布了一份重磅安全报告，指控 DeepSeek、Moonshot（Kimi）和 MiniMax 三家中国 AI 实验室通过约 2.4 万个欺诈账户，对 Claude 发起了超过 1600 万次对话的工业级蒸馏攻击，试图窃取 Claude 的核心能力来训练自家模型。</p>