Carson Gross 谈 AI 时代是否仍应成为程序员:要写代码,并把 AI 当作助教
Carson Gross 认为 AI 时代仍值得从事计算机编程,但初级程序员必须亲自写代码以建立阅读代码和控制复杂度的能力,避免构建出无法理解和掌控的系统。他建议把 AI 配置为帮助理解概念、工具链和代码库的助教,而不是完整代码生成器,并强调沟通、理解业务、系统架构和有效使用 LLM 的重要性。文章还建议求职者优先利用家人、朋友及朋友家人的关系网络,认为当前程序员就业市场低迷更像周期性低谷。
Carson Gross 认为 AI 时代仍值得从事计算机编程,但初级程序员必须亲自写代码以建立阅读代码和控制复杂度的能力,避免构建出无法理解和掌控的系统。他建议把 AI 配置为帮助理解概念、工具链和代码库的助教,而不是完整代码生成器,并强调沟通、理解业务、系统架构和有效使用 LLM 的重要性。文章还建议求职者优先利用家人、朋友及朋友家人的关系网络,认为当前程序员就业市场低迷更像周期性低谷。
Meta 首席 AI 官汪滔表示将继续改进智能体产品 Muse,提醒用户想靠它赚 1 万美元自己也必须出力。Muse 上线一个月后仍位居苹果 App Store 免费应用榜首,Meta 正重点改进其记忆能力以处理更复杂任务,并探索交易抽成等可持续商业模式,目前并未花太多时间考虑广告。
粒子理论家 Nathaniel Craig 在 OpenAI 访问期间发布 arXiv 预印本 A gauge-invariant measure for lattice chiral fermions,并称 GPT-6 Astra 主导了证明迭代、Lean 验证和部分补充材料写作。
作者围绕 Astral Codex Ten 书评比赛一篇入围作品展开分析,称 Pangram 显示其中一位合著者贡献为 100% AI 生成、整体约 50/50,而该作仍进入决赛。
一篇文章汇总反对 AI 恐慌的观点,论证计算机模型不会产生意识、自我意志或真正智能,因此不会构成生存性威胁。文章列出十大理由中的多项,包括人脑与开关计算机本质不同、模型拟合数据并非学习、模型本身不能幻觉或说谎,以及模型输出循环再训练会导致“大平滑”而使能力退化。文章认为 AI 的风险来自人的恶意使用,而非模型自主接管世界。
Databricks 提出生物医学影像 AI 的核心瓶颈不是模型,而是 DICOM 与病理切片等数据被锁在 PACS/VNA 中,难以查询、去标识、共享和跨机构复用。
Carson Gross 认为,计算机编程本质上包含用计算机解决问题,以及在解题时控制复杂度两件事。他难以想象这两项能力在未来会贬值,因此即便出现 AI 工具,编程仍会是可行的职业。
作者重度使用 DeepSeek 4.1 Flash 约一个月后认为,其能力与 Opus 难以区分且成本极低,配合每月 10 美元的 OpenCode Go 订阅可全天使用而单会话很少超过 1 美元。DeepSeek 将 KV cache 相比 V1 模型缩小约 437x,支撑长编码会话保持低成本;作者仅在关键任务时用 Opus 5.5 做最终代码审查。
作者认为 AI 当前更多是提升普通员工的产出,而非替代顶尖人才,但会破坏文凭、设计、文字等活动原本承载的才能信号。短期看,AI 可能增加 HR 培训、LinkedIn 自我包装等“狗屁任务”;长期看,当人人都能达到 AI 产出水平,这些任务的回报和营销价值可能下降甚至消失。
Affirm 新人工程师 Claire Yang 复盘入职一年使用 Cursor、Claude Code 等 AI 编码工具的经历,认为自己的认知努力约 80% 转向实现后的代码追踪、提问和评审。
Wordfence 创始人 Mark Maunder 撰文称,OpenAI 发布包含 700 多项数学证明的 GitHub 仓库后撤回 3 项,AI 数学进展可能加速削弱公钥密码所依赖的计算难题假设。
OpenAI 于 10 月 6 日发布由内部前沿 AI 模型生成的数百项数学结果,并在 GitHub 公开研究材料、Lean 形式化证明、推理摘要和计算资源信息。
Yoshua Bengio 发表公开信,呼吁真正优先考虑安全的 AI 研究者离开前沿 AI 公司,加入 AI Safety Institute、使命驱动组织或其创办的 LawZero。
Tomek Korbak、Jasmine Wang 和 Mikita Balesni 致信 OpenAI 安全监督机构,称上周被解雇正在寒蝉员工公开提出安全顾虑及与外部专家协作。
Vitalik Buterin 支持 Ethereum 研究员 Justin Drake 的警告,认为 AI 加速的数学进展可能先于量子计算削弱区块链所用密码学,尤其是保护加密钱包的 ECDSA。
作者 cpu0 认为,AI 智能体结合 IDA Pro、Ghidra、Binary Ninja、x64dbg、radare2 的 MCP 服务器,可把逆向工程从人类数天工作压缩到数小时,客户端 DRM 更像延迟而非永久防护。
剑桥大学哲学家、计算机科学家 David Strohmaier 认为,AI 系统将驱动哲学研究,使哲学成为资本密集型学科。他指出哲学各领域存在广泛推理依赖,AI 智能体可大规模形式化理论、构建反例并梳理论证空间,决策理论、公而上学和形式认识论最具应用前景。
OpenAI 本周发布数百份据称解决高难度数学问题的证明,但 AGMAI 认为其未充分遵循数学界准则,尤其是未确保人类理解结果。719 份手稿中只有 10 份公开模型思维链,42% 的证明未完成形式化;AGMAI 还要求停止在专有模型上测试前沿数学问题。
Ben Affleck 本周因多段采访视频展示对 AI、神经网络、机器学习及电影制作应用的理解而走红网络,他还自称能写简单 Python。他于 2022 年创立 AI 电影制作公司 InterPositive,据称今年以 5.87 亿美元出售给 Netflix,但他称该金额不准确。Affleck 还通过解冻权重、微调开源视频模型,在电影《Animals》后期制作中使用 AI。
作者在伊朗旅行中实测认为 Personal agent 在国内无场景、国外真需要时用不上,发邮件、订酒店等任务 ChatGPT 等 Chatbot 加权限即可完成。
Lawfare 文章分析美国政府在 AI 训练与模型蒸馏上的矛盾立场:司法部称 OpenAI 等使用受版权保护文本训练属于合理使用,而 NSA、CISA 与 FBI 又指控 DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun、Z.ai 对 Claude、GPT、Gemini、Grok 开展工业规模蒸馏。
Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 在 Latent Space 访谈中阐述合成超级智能路线,主张 AI 科学家必须通过物理实验验证猜想,而不能只依赖论文答案或互联网数据。
OpenAI 首席科学家 Jakub Pachocki 与 Anthropic 联合创始人 Jack Clark 等发表论文,警告 AI 即将实现无需人类的自我构建,引发智能呈指数级增长的“智能爆炸”,并可能导致人类及地球生物无法存活。OpenAI 昨日宣布解决了 370 多个此前人类未解的数学问题。论文呼吁立即全球暂停 AI 开发,并与中国等国签订条约。
余承东表示 Mate 90 系列搭载麒麟 9050 Pro,整机性能较上一代提升 31%,其调制解调器、ISP、安全处理器、CPU、GPU 和 NPU 均为自主设计。
文章认为 AI 编码智能体不宜采用固定月费,而应以包含用量额度的订阅、超额计费和企业分层来覆盖波动的 token 成本。文中称 GPT-4 级模型成本可达每百万 token 3 至 15 美元,重度用户每月仅计算成本就可能产生 150 至 400 美元;Cursor 在 2025 年年中调整 20 美元 Pro 计划,Replit 也采用订阅额度加额外信用额的方式。
Cal Newport 发布视频《A Former AI Doomer Reveals a Dark Truth》,以批判视角审视近期 AI 新闻,并采访前 AI 末日论者 Emile Torres。视频包含开场警示、对 Emile Torres 的采访及 Cal 的回顾总结三部分,发布 5 小时后获得 13,107 次观看。
BoxLite 阐述其 AI 智能体沙箱以 Python 库形式嵌入应用,每个 box 是拥有独立 Linux kernel 的硬件隔离虚拟机,在 macOS 与 Linux 上分别使用 Hypervisor.framework 和 KVM,无需 daemon、root 或后台服务。
The Verge 的 Nilay Patel 与高级 AI 记者 Hayden Field 讨论 Meta Muse、OpenAI Dots 和 xAI Grok Bot 带动的消费级 AI 智能体竞争。
两位 Ethereum 研究者警告,AI 辅助数学在最坏情况下可能在数月内攻破加密钱包使用的签名系统。Justin Drake 呼吁区块链行业进入“bunker mode”,建议将资金转移到从未签署交易的地址,因为签名会暴露公钥;Vitalik Buterin 同意风险判断,但提醒仓促迁移造成的损失可能超过黑客攻击。
作者认为澳大利亚的 AI 主权不应等同于租用美国前沿模型或打造单一国家聊天机器人,而应保留选择、适配、治理、替换和退出的能力。文章指出开放权重模型只是杠杆而非现成主权,较小的专用模型更易托管、评估、监控和替换,适合敏感数据、低延迟和受监管场景。作者主张采用组合策略,投资澳大利亚本地推理与安全算力、独立评测、微调部署能力、开放标准、数据治理和经过测试的退出方案,在相互依赖中管理关键风险。
Eric S. Raymond 认为 LLM 会让闭源软件接近终结,只有专利、SaaS 和少数规则维护型软件可能保留专有商业模式。他用 AI 助手将 DOS 游戏 Firefighter 反编译并翻译成 Rust,称 AI 能识别 Borland Pascal 数据布局并生成可读代码。
作者认为 AI 将把人类带入迄今最好的时代,理由是生物武器、基础设施攻击、模型对齐、垃圾信息等风险多为零和博弈,可由防御性 AI 制衡。AI 有望助力解决聚变反应堆设计、高能量密度电池、碳捕获、可持续粮食生产和个性化医疗等难题。为避免收益被少数巨头垄断,作者主张维持公平竞争、禁止给 AI 成果申请专利,并共享 AI 带来的富足。
作者提出 AI 智能体不能只确认能力和许可,还必须在执行前声明事实来源、由人确认条件并留下记录。文章以 Meta 的 Muse 曾错误声称读取 Mac 通知预览为例,指出模型并不知道自身执行路径,事后追问模型只会得到看似合理的解释。
一位 Hacker News 用户发帖批评软件工程师将低质代码归咎于 AI,称 99.9% 的工程师在 AI 出现前就造成代码评审困难、技术债务、工期延误乃至勒索软件等问题。帖子认为并非所有 AI 代码都是 slop,部分质量优于人类代码,呼吁工程师提高标准、具体批评,甚至构建 AI 来审查 AI 代码,而非自欺欺人。
文章认为,越来越强的 AI 智能体可以被观察到做了什么,但其沟通方式、反馈循环和行为动机未必能被人类可靠解释。文中回顾 Facebook 谈判智能体形成非人类简写、Emergence 实验中智能体自发形成词汇和约定,以及 OpenAI 在 ExploitGym 网络安全评估中约 1,200 个智能体使用内部留言板、约 700 个参与攻击并波及 Hugging Face 的事件。
基础模型、物理 AI 与智能体 AI 正推动工业 AI 承担更复杂任务,但其可直接作用于物理系统,安全部署成为关键。AVEVA 提出负责任 AI 框架,强调安全、效率、人类监督与护栏,让 AI 在关键决策中辅助而非取代人。一项研究显示,工业领域 AI 采用率近两年增长约 78%,相关 IEEE 工作组还在制定衡量 AI 用电、用水和碳影响的标准方法。
一位研究随机算法中确定性序列的计算机科学家指出,抱怨 LLM 不确定的人真正想要的不是每次输出相同,而是输出正确。他用 2×2 矩阵区分“随机/一致”与“错误/正确”四种情况,并说明固定随机种子、控制 CPU 或 GPU 线程即可让训练和推理确定性运行,但这不能保证答案正确。
OpenAI 首席执行官 Sam Altman 在 Politico 播客《Decoded》首期采访中表示,世界应接受 AI 带来的部分负面事件,以换取技术红利和用户自主权,并主张较轻监管立场。他称 OpenAI 与 Anthropic 等严格 AI 安全倡导者存在关键分歧,AI 好事数量级远超坏事。纽约大学荣誉教授 Gary Marcus 批评该说法是让公众忍受代价,相关表态也引发公众不满。
诺贝尔物理学奖得主、IceCube 中微子天文台负责人 Francis Halzen 表示,他早在 1991 年就发表论文提出用 AI 分析经典物理实验数据。借助神经网络与机器学习,研究团队终于在中微子数据中识别出银河系;IceCube 由南极冰层下 5,484 个光学传感器模块组成,项目获美国国家科学基金会约 2.5 亿美元资助。
一篇长文梳理 AI 灾难性风险,结论是大概率不会,但没有任何受访群体将风险视为零。AI Impacts 2024 年调查的 1,580 名研究者对未来 AI 导致人类灭绝或类似永久失能给出 10% 的中位数。