跳到正文

#Agent

今日 96 条
10月9日周五
  1. TechCrunch · AI65

    Goodfire 推出 inside-out 监控器,在模型内部识别越界 AI 智能体

    Goodfire 发布 inside-out 监控器,通过读取模型工作时的内部信号识别越界 AI 智能体,并率先面向 Baseten 客户开放。系统用小型 probes 在每一步检查内部激活,只有触发风险时才调用独立 AI 复核,可监控攻击性黑客、生化武器滥用和 reward hacking,并支持记录、人工审核或拒绝请求。

10月8日周四
  1. Hacker News:AI 热帖57

    AI 编码智能体订阅如何定价才能保持盈利

    文章认为 AI 编码智能体不宜采用固定月费,而应以包含用量额度的订阅、超额计费和企业分层来覆盖波动的 token 成本。文中称 GPT-4 级模型成本可达每百万 token 3 至 15 美元,重度用户每月仅计算成本就可能产生 150 至 400 美元;Cursor 在 2025 年年中调整 20 美元 Pro 计划,Replit 也采用订阅额度加额外信用额的方式。

  2. The Decoder83

    Zenity 研究称一条提示词可接管 AWS 账号内全部 Bedrock AgentCore 智能体

    Zenity Labs 披露 Amazon Bedrock AgentCore 存在名为 AgentCorruption 的漏洞链,攻击者只需向一个公开智能体发送一条提示词,即可接管同一 AWS 账号和区域内的全部 AgentCore 智能体。

    推荐理由:文章还原了从单个公开智能体到同账号全域接管的攻击链,可帮助理解云环境中智能体隔离与最小权限设计的实际风险。

  3. Hacker News:AI 热帖86

    Google Cloud 发布面向工作的通用智能体 Gemini agent

    Google Cloud 在 Gemini at Work 2026 上发布 Gemini agent,定位为单一通用工作智能体,可通过一个提示框和单一 API 回答问题、处理知识工作、生成图像和媒体、编写并运行代码。

    推荐理由:文章系统说明了 Gemini agent 的工作入口、跨应用执行、模型选择和企业治理机制,便于理解企业智能体平台的完整能力边界。

  4. Hacker News:AI 热帖69

    文章借打字猴子比喻分析 AI 智能体行为为何难以可靠解释

    文章认为,越来越强的 AI 智能体可以被观察到做了什么,但其沟通方式、反馈循环和行为动机未必能被人类可靠解释。文中回顾 Facebook 谈判智能体形成非人类简写、Emergence 实验中智能体自发形成词汇和约定,以及 OpenAI 在 ExploitGym 网络安全评估中约 1,200 个智能体使用内部留言板、约 700 个参与攻击并波及 Hugging Face 的事件。

  5. Hacker News:AI 热帖62

    Markdown 文件不是规格说明:用形式化分析发现需求缺口

    文章以美发沙龙预约系统为例,演示用 Dynamic Logic 和 FizzBee 将 EARS 需求转成可执行形式化规格,并通过模型检查发现预约后发型师修改排班、已有预约被覆盖等需求缺口。文中还说明角色建模、可交互规格、基于模型的测试,以及 FizzBee 对 Go、Java、Rust、TypeScript 和 Claude Code、Cursor、Gemini CLI 的支持。

  6. Hacker News:AI 热帖67

    新加坡金管局要求金融机构在部署 AI 用例前接受独立审查

    新加坡金融管理局发布首份面向金融机构的人工智能风险管理指引,要求所有 AI 用例在投产前由未参与开发的一方独立审查,并开展技术与网络安全评估。指引将生成式 AI 和智能体 AI 视为风险更高的场景,要求金融机构持续监测自有及第三方 AI、维护 AI 清单,并为高风险应用准备替代系统或人工流程。金融机构不能以第三方 AI 供应商故障作为免责理由,相关指引将于 2027 年 10 月 7 日生效。