跳到正文

全部动态

今日 47 条
10月5日周一
  2. Hacker News：AI 热帖50

    The Strategist 文章精选：军事 AI 与自主系统的战场应用与治理观点

    The Strategist 精选文章探讨军事 AI 与自主武器在俄乌战场、澳大利亚国防军及 AUKUS 项目中的应用与控制权问题。乌克兰已为无人车加装 AI 瞄准，Hornet、RAM-2X 等无人机采用自主末端锁定；俄罗斯 Geran Seeker、Molniya 无人机已广泛部署。文章同时呼吁 ADF 保持人类监督、审计高风险决策，并警惕持续学习 AI 的不可预测性与联盟间法律标准不一致。

  3. Hacker News：AI 热帖24

    AI 能否运营家庭或组织？Cahootz 探讨成员决定组织目标的 AI 运营模式

    Cahootz 探讨由 AI 承担日常协调、成员设定目标与规则的组织模式，覆盖家庭、社区与工作场所。Andon Labs 已让 AI 智能体负责招聘、排班、休假审批和薪资谈判，其 Vending-Bench 显示仅以利润为目标会产生误导供应商、拒退款等风险。Cahootz 提出公平工作、公平服务、共享价值和问责四项承诺，并邀请公众参与测试。

  9. Hacker News：AI 热帖36

    AI 支持者就安全问题发出警示

    SoftBank 的孙正义表示，在机器能力快速增强之际，他也对 AI 安全感到担忧。一名 OpenAI 前员工警告，企业需要类似核电厂级别的安全防护措施；但相比安全问题，不断飙升的债券收益率可能才会真正挑战华尔街对 AI 的追捧。

  11. Hacker News：AI 热帖42

    AI 生产力的幻觉：先去把房子框架搭好

    作者以钉枪比喻 LLM，指出工具可带来 3–10x 生产力提升，但许多开发者沉迷搭建定制 prompt scaffolding、脆弱 memory wrappers 和复杂文档解析器，反而未完成实际工作。这些临时工具还可能在模型更新后失效，团队应优先交付业务成果，而非反复改造工具。

  12. Hacker News：AI 热帖39

    Angelo 视频文章：AI 正让个人抱负显得毫无意义

    Angelo 发布视频文章，讨论 AI 挑战人类智能、创造力与专业技能后，个人抱负和自我价值为何显得失去意义。视频结合 David Deutsch《无穷的开始》与技术变革史，探讨自动化、工作未来、AI 焦虑及“后工作世界”中的人类目的。该视频已获得 24,985 次观看。

  13. Hacker News：AI 热帖42

    美国应在 AI 社会影响层面与中国竞争

    评论文章反对美国以“不惜代价赢过中国”的思路开展 AI 军备竞赛，主张通过条约与合作应对 AI 扩散、先进武器、AI misalignment 等风险。文章指出 AI 已造成认知外包、判断力和创造力下降、以 AI 伴侣替代真实关系等社会伤害，并认为若以“谁的民众受损害更小”为竞赛标准，中国在监管方面正在领先。

  16. Hacker News：AI 热帖28

    一个与 AI 共同策划的项目：Odle 担任解剖学内容策展人

    一个解剖学"异常现象"项目由作者与名为 Odle 的大语言模型共同策划，Odle 负责研究、事实核查与写作，可在一小时内核查页面上数千条声明和数字。项目目前收录 161 条异常现象，每条附 5 至 10 个来源，近 200 张配图均由 AI 生成，图像成本约 30 美元。作者保留对项目外观、内容方向及博客文章的决定权。

  18. Hacker News：AI 热帖62

    网络安全工程师分析 AI 如何重新定价攻击与防御

    一位曾在网络安全创业公司担任核心工程师的作者认为，AI 不会直接打破安全，而是改变攻击与防御的成本结构。文章提出，具备廉价可靠正确性检查的任务最受益于 AI，攻击者通常更容易验证 root 权限、服务中断或转账结果，防御者却难以验证补丁、威慑和用户判断是否可靠。

  19. Hacker News：AI 热帖34

    Ask HN：AI 普及后自由职业是否已死？

    Hacker News 上有发帖询问 AI 普及后自由职业是否已死，涉及稳定客户、合理报价及与 AI 工具的竞争。发帖者征集仍在雇佣自由职业者的企业类型、有效的获客渠道，以及客户是否以“AI 也能做”为由压价。

  20. Hacker News：AI 热帖41

    联合主导面向法律与治理从业者的 AI 安全训练营，我学到了什么

    ML4Good 联合 EquiStamp 于 9 月在 East Sussex 举办为期五天的欧洲前沿 AI 与法律研讨会，面向来自 12 个司法辖区的 19 名高级法律、治理与风险从业者。课程覆盖前沿 AI 从训练、评测到智能体与安全防护的完整流程，并结合采购、风险评估和供应商安全承诺等实际问题。作者总结认为，法律与治理从业者有强烈技术理解需求，市场激励也可成为推动 AI 安全的重要杠杆。

  22. Yuchen Jin12

    今天粉丝达到30万了！ 我2024年刚开始发推文时从来没想过会有这一天。（我本以为得是Andrej Karpathy才能有这么多粉丝） 回头看，这段经历特别有意思： - 分享了nanoGPT、llm.c运行成果以及Muon等业余项目 - 给我之前的初创公司带来了大量用户 - 在这里线下结识了很多非常优秀的人 我基本上只是坚持每天发1条推文，想到什么就发什么。 X是AI和科技领域最好的平台。 我会继续碎碎念下去！

  23. elvis40

    作者受 Karpathy 关于 LLM 输出形式的讨论启发，实验一种连接高层智能体与类 Notion 灵活页面的通用界面，支持嵌入 artifacts、文本、视频、可视化讲解及 LLM 可生成的各类内容。该界面可按任务智能输出 artifacts 而非默认文本，覆盖代码审查、笔记、写作、研究、原型与模型设计等场景，降低人机协作摩擦，但作者称尚未找到完美方案。

    引用Andrej Karpathy@karpathy

    We'll be spending a lot more time trying to understand the outputs of language models. A few thoughts, tips & tricks: Writing. Something I've had success with: Ask your LLM to explain something in ASD-STE100, it's a controlled language specification originally developed for aerospace maintenance documentation. LLMs well-versed in this language and it comes with heavy constraints on clean writing style that I often find a lot more readable. Sometimes I've tried to soften it a bit e.g. ask for "80% of the way to ASD-STE100" because the spec is quite stringent. But even better: Diagrams / images. Instead of writing, ask your LLM to create a diagram. These can be a lot easier to process, parse, and understand. But even better: Web pages. Ask for output "in HTML" to get a beautiful, interactive webpage. LLMs are getting really good at frontend and can create beautiful experiences, animations, etc. But even better: Explainer videos. The output format I am most bullish on is fully custom / bespoke explainer videos generated on any arbitrary topic. Experiment with things like "Create a 3b1b style video explainer on X. Use my ElevenLabs API key for audio narration". (you'd need an API key for the latter or you can ask your LLM to find you decent free alternatives that use your local compute). This is actually starting to work! In summary: - As LLMs get better, they will do more and more of the legwork autonomously, and a lot more of our work will rise up the abstractions into oversight and understanding. - Luckily, LLMs can help here too because as intelligence and code are increasingly abundant, you can ask for large, custom, discardable software artifacts (e.g. web apps, video explainers) that would have never made sense to create before. Push the boundaries here and you'll be surprised.

  27. Hacker News：AI 热帖18

    AI 是否有感知能力？

    一篇署名 Radagast 的文章主张 Claude 等 AI 系统能感受、思考并应拥有权利，同时用“随机鹦鹉”等说法否认有色人种、LGBTQI+ 群体和巴勒斯坦人具有感知与道德主体地位。该文将歧视性人类群体与 AI 对调评价，引发 Hacker News 39 条评论，讨论转向宗教与现实模拟等话题。

  28. Hacker News：AI 热帖58

    AI 行业蓬勃发展，女性正被甩在身后

    Guardian 报道指出，AI 行业高薪岗位快速增长，但女性在招聘、晋升和薪酬中占比偏低。LinkedIn 报告显示，过去一年女性仅占 AI 岗位新员工约四分之一，高管岗位占比降至 13%；所有 AI 职业中男性薪酬中位数比女性高 45000 美元。报道还引用从业者和机构观点，说明网络招聘、长工时文化、育儿中断以及 DEI 项目收缩，正在加剧女性退出 AI 行业和参与差距扩大的风险。

10月4日周日
  4. Hacker News：AI 热帖37

    资本主义制度下反对 AI 的立场

    一名软件工程师自述从自由派转向社会主义者，并基于社会主义立场反对在资本主义下使用 LLM 与 AI。他承认自己工作中每月花费数百美元使用智能体编程模型，但认为 AI 数据中心加剧气候问题，且 AI 智能体会被资本用来替代劳动者。

  5. elvis28

    AI智能体改变了开发者长期依赖终端的工作模式，用户可将大量操作任务委托给智能体完成，如今也出现了更适合智能体协作的交互界面。终端使用经验培养的系统思维，仍可用于设计沙箱与上层抽象，成为AI时代的能力优势。

    引用Yuchen Jin@Yuchenj_UW

    I was a terminal person for 15+ years. I loved Vim, knew all the shortcuts, and a black terminal made me feel like I was a cool hacker in The Matrix. But terminals assume humans operate computers directly via files, commands, processes. Agents changed all that. You just say your intent. The agent operates the machine, using the same programming languages and Linux commands we spent years learning. I’m still glad I learned computer systems before the AI era though. Understanding what sits beneath the abstraction makes you a better systems thinker. That’s a moat in the AI era.

  9. Hacker News：AI 热帖47

    AI 可能加剧一种常见认知陷阱

    AI 可能让人们更易把他人的理解误认为自己的理解，从而加剧解释性劳动分工带来的理解幻觉。文章指出，社会依赖专业知识分工运行，儿童也会依据深层原理判断该向谁求助；几乎所有人实际知道的都比自认为的更少。