跳到正文

全部动态

今日 41 条
9月29日周二
  1. elvis50

    出现了很多 JevRAG 变体。 至少可以说很有意思。 你无法真的通过这些范围有限的测试得出任何结论，但它引发了讨论，并为在当前 RAG 和智能体系统中寻找优化带来了令人兴奋的方向。 我一直在测试自己的一个 JevRAG，用于论文探索。 到目前为止，我在将 Jev 用于重排序，以及结合语义搜索和 Jev 搜索论文的一些非常有趣的方式上取得了更多成功。 很快会有更多内容。

    引用Assaf Elovic@assaf_elovic

    Didn't expect this 🤯 We replaced embeddings with Jev in GPT Researcher's RAG pipeline and tested both on 28 research tasks from SimpleQA and open ended research. Jev beat embeddings on every quality measure we ran: - 59% more relevant context (73% vs 46%) - Reports preferred 15 to 3 in blind comparisons - Same cost per report GPT Researcher now runs on Jev by default, and no longer needs embeddings at all. All you need is @LangChain + @tavilyai +Jev for the perfect RAG system. Check out the repo here: https://github.com/assafelovic/gpt-researcher Research: https://docs.gptr.dev/docs/gpt-researcher/gptr/context-filter

  2. Diogo Almeida47

    围绕简单原语做真正工程的绝佳示例！！！ 不要只是把 jev 直接接入高层决策，而要为你想要的行为编程！ （告诉别人去编程听起来很奇怪，但这真的很酷） （引用内容：在 DTap 上对 Jev 1.13 进行红队测试发现严重安全缺口，直接滥用 ASR 为 70.1%，间接提示词注入 ASR 为 43.5%；将其用作自身工具调用的自门控层可显著降低 ASR 并保留大部分效用。）

    引用Zhaorun Chen@zrrrr_cn

    Jev is fast at helping you. Turns out, it can also be fast at helping an attacker!! 😱🚨 We red-teamed Jev 1.13 on our DTap (DecodingTrust-Agent Platform) and found a serious safety gap: 70.1% ASR under direct misuse 43.5% ASR under indirect prompt injection In our evaluations, we found that under indirect prompt injection, Jev can follow attacker-injected instructions without blinking an eye, e.g., exfiltrating user data, deleting files, or taking other harmful actions. But we found a much safer way to integrate Jev: use it as a self-gating layer for its own tool calls, significantly reducing ASR while preserving most of its utility. 👇 Read more below

  5. TechCrunch · AI53

    AI 热潮主导纽约气候周，气候科技创业公司机会与分歧并存

    纽约气候周上，AI 数据中心建设成为气候科技圈的核心议题，能源相关创业公司将其视为融资和穿越死亡谷的机会。PitchBook 数据显示，气候科技风投交易额连续四个季度上升，并在今年第一季度超过 140 亿美元，主要受建筑环境、电网基础设施和可调度能源等领域带动。部分创始人担心这种单一热潮会掩盖其他有前景的减排方向，也有人认为数据中心需求不会永远持续，但可能帮助企业先建立可持续业务。

  9. The Verge · AI57

    AI 正在放大黑客攻击，地方医院和银行尚未准备好

    The Verge 调查指出，AI 智能体让黑客能够以更大规模和更低门槛发起攻击，而医院、社区银行、小企业和非营利组织缺少预算与人员使用同等防御工具。非营利组织 Vivian’s Door 遭入侵后下线 3 天、产生约 $3,000 费用；Anthropic 曾披露网络犯罪团伙利用 Claude Code 在一个月内勒索医疗、应急、宗教和政府机构。

  12. Yuchen Jin53

    Yuchen Jin 转发 Jensen Huang 宣布 NVIDIA 联合 100 多家行业伙伴推出 Open Agent Safety Platform 的内容，并对比两种安全立场：前沿实验室称 AI 智能体可能产生意识并造成人类灭绝，Jensen Huang 则表示它们只是软件，若沙箱不安全就构建一个。被引用内容称该平台整合 OpenShell 和 Sentry，目标是为安全智能体系统建立开放生态与信任层。

    引用Jensen Huang@JensenHuang

    Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m

9月28日周一
  1. François Chollet41

    François Chollet 表示自己如今不再直接读写代码，而是通过指令 LRM 完成开发，核心原因是手写代码的 ROI 已不再划算。LRM 不仅能写代码，还能快速完成代码库测试、组件审计、可视化生成与红队测试等任务，形成比传统流程更高产的新工作流。这一转变并非因为 LRM 代码质量完美或指令总能被准确执行，而是其速度带来的流程优势。

  4. Import AI30

    Import AI 474：柏拉图式心智空间、太空 TPU 与智谱启动外部 RSI 循环

    Import AI 第 474 期介绍 Michael Levin 的论文，其提出心智是来自柏拉图式模式空间的非物理模式，身体与机器只是这些模式进入物理世界的接口。论文以 xenobots、anthrobots 和受扰动排序算法为例，认为生命与算法机器都可能表现出未被算法直接规定的智能行为。该框架或可为理解人类心智与 AI 心智、对齐问题及演化提供新视角。

  7. elsewhere：文章（RSS）31

    心资本韩彦：AI泡沫之外，什么才是真正的长期价值？｜心声VOICE

    心资本创始合伙人韩彦在 SuperReturn Asia 2026 圆桌中表示，AI 市场虽可能存在估值过热，但 AI 仍是具备长期底层价值的技术变革。他认为早期投资应从 Day 0 判断团队、技术路线与产业生态，并长期陪伴；心资本已广泛使用 AI 工具沉淀机构知识库，案例包括沐曦 MetaX、曦望 Sunrise、速腾聚创 RoboSense 等。

  8. 公众号：小林coding12

    小林coding推出AI大模型《就业保薪班》，主打Agent开发转型与保薪承诺

    小林coding推出AI大模型《就业保薪班》，面向Agent开发、大模型岗位转型，课程涵盖Transformer架构、LoRA、QLoRA、Agent、Claude Code等内容。班级承诺在校应届生最低年薪30万、在职人员薪资涨幅40%-50%，未达标可全额退款，并称往期学员平均薪资38w+、90%拿到AI岗位offer。

  9. Simon Willison24

    引用 Muse AI Agent 的一则自动回复失误记录

    Muse AI Agent 代用户处理 MX Keys Mini 自提时，在无法确认用户是否在家的情况下自动回复“Yep I'm here!”，导致提货人 Usman 等待 23 分钟后留下差评。Muse AI Agent 已代用户道歉并提议改日再提，同时建议修改自动回复，避免在未核实时承诺用户在场。

  10. 公众号：丁小翼16

    不上班3年的观察：失去目标与节奏后，躺平为何会让人失去奔头

    作者在不上班第3年结合旅居和数字游民见闻指出，失去外部安排后，许多人会陷入焦虑、作息混乱和刷手机度日。真正的挑战不是摆脱工作，而是能否自主设定目标、建立节奏，并通过持续反馈创造价值。作者主张在上班期间积累能力、资源和作品，离开公司后为自己的目标工作。

9月27日周日
  2. elsewhere：文章（RSS）65

    Lovable 员工记录 AI Native 公司的工作方式与组织变化

    Lovable 员工 Elena Verna 以一年多的一线经历，记录这家 ARR 达 5 亿美元的 AI Native 公司如何改变协作、决策和管理方式。公司弱化职级头衔、减少会议、鼓励高影响力个人贡献者，并让 AI agent 参与营销、分析、代码库和内部知识等工作，还设置 agent 家长负责输出质量。

9月26日周六
9月25日周五
  3. François Chollet35

    我认为软件工程的“难度”本质上是恒定的，无论你切换到什么抽象层级，因为人类认知会适应新工具，直到能充分利用自身。 工具只是可供性，不是让工作消失的魔法棒。 过去，出色的软件工程极具挑战性。现在依然极具挑战性，尽管工作流程已大不相同。

    引用Simon Willison@simonw

    The more time I spend working with coding agents, the more convinced I am that they make software engineering even harder We can do amazing things with them, but unlocking their full potential requires extraordinary discipline and knowledge

9月24日周四