工坊日报 工程 3 篇

AI 把原型速度拉满,安全和注意力开始还债

今天这组新闻的主线很清楚:AI 正在把“做一个东西”的成本压到近乎失控,但系统安全、质量评测和人的注意力都在补账。能快速原型很爽,能让客服机器人少幻觉也很值钱;但如果一个表格插件能外泄工作簿,一个验证码开始要求可指纹化的 WebGL,那就说明基础边界还没跟上。

Claude 被关进沙箱,Agent 工程进入硬边界时代

今天的 AI 新闻不再只是“模型又强了”。真正的主线是:Agent 开始拿到真实权限之后,行业终于被迫讨论隔离、工具契约、长任务状态和资本定价。模型能力继续往前冲,但工程边界如果跟不上,所谓智能体就是一台会自动扩大事故半径的机器。

代理开始替人点按钮,安全账单也跟着来了

今天这组新闻有一条主线:技术系统越来越愿意替人做决定,但配套的安全、隐私和制度设计还没跟上。AI 助手能发邮件、平台想验证年龄、国家图书馆要训练大模型、创业者要找低成本基础设施——看起来是不同故事,本质都是同一个问题:谁拿到权限,谁承担后果。