ML4Good 技术 AI 安全训练营能带来什么:亲历者介绍
ML4Good 在法国里昂附近举办为期 8 天的技术 AI 安全训练营,内容涵盖 AI 智能体、对齐、模型推理、评测、可解释性与 AI 治理。该训练营免费提供住宿和每日三餐,并可报销最高 180€ 交通费用;申请需经过表格筛选和 10–15 分钟人工面试。
ML4Good 在法国里昂附近举办为期 8 天的技术 AI 安全训练营,内容涵盖 AI 智能体、对齐、模型推理、评测、可解释性与 AI 治理。该训练营免费提供住宿和每日三餐,并可报销最高 180€ 交通费用;申请需经过表格筛选和 10–15 分钟人工面试。
文章梳理了小红书14种变现方式,覆盖从0粉到有粉丝基础后的常见商业化路径,主张先确定变现方式再反推账号定位与内容方向。配套的「小翼小红书AIP私房课」为期近2个月,包含700+分钟录播课、11场直播、24小时AI教练及1个月实战陪跑,10月8日开营,报名已超百人。
Google DeepMind 开发者指南介绍 Gemini API 的智能体视频理解,通过服务端 Think → Act → Observe 循环按需读取字幕、帧片段和音频轨道。
推荐理由:材料给出 Gemini API 中 agentic 视频处理的启用方式、适用场景和成本变化,便于开发者评估长视频分析方案。
360 纳米Work 是一款超级个人云端助理,其云电脑功能于 7 月 28 日上线,内置 100 多个大模型,支持 8 核 16G、200G 存储。
作者介绍通过 WebMCP 让网页把功能以工具形式暴露给 AI 智能体,表单只需添加 toolname、tooldescription、toolautosubmit,并可用 toolparamdescription 描述输入。
作者测试五种让 LLM 根据发布说明更新 Vulture README 的方法,发现先逐条判断变更是否面向用户、再归入对应章节的方法效果最均衡。该方法在 9 个相关变更中纳入 7 个,仅加入 2 个维护者细节,保留约 95% 原 README,但平均耗时约 3.5 分钟。
Reddit 用户 u/StayLameBro 通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 内存的 M4 Pro MacBook Pro,并用开源项目 backburner 协同运行 Qwen3.8-27B,预填充性能最高提升 44%。
TailStory 团队梳理了 AI 依据 Feline Grimace Scale 识别猫急性疼痛的研究与家庭评分方法。2023 年研究用 3,447 张由专家评分的猫脸照片训练神经网络,最佳组合以 95.5% 准确率区分疼痛与无疼痛猫,且模型小可在智能手机运行。
Anthropic 发布 Opus 5.5 使用指南,说明它更适合长时间多步骤任务、会在每次回复前思考,并更清楚汇报已完成事项和所需输入。指南建议一次性交代完整任务与完成标准,删除 think carefully 等提示,在 CLAUDE.md 中规定何时继续或停下询问,并让大型审计、迁移任务分派给 subagents。
AWS Hero Thorsten Hoger 在视频中讲解非开发者如何不写代码用 AI 完成实际事务,涵盖手机搭建家庭食谱库、分析 13 个月健身数据、读取日历与会议记录的个人 AI 项目经理,以及牙科诊所和税务咨询公司案例。内容还涉及用 Fireflies 与 MCP 做会议智能、GDPR 隐私合规与本地模型选择,并建议本周从单一任务起步。
一篇面向新手的本地 AI 教程讲解如何在个人电脑上运行模型,涵盖隐私、离线、免订阅等优势,以及至少 8GB RAM 和 5GB 以上存储空间等要求。文章解释参数量、模型文件大小、量化、推理、token、上下文窗口、RAM/VRAM、GGUF、嵌入向量和评测等概念,并对比 Ollama、LM Studio、llama.cpp、Jan、Msty。
Kitsuno 用 8 天时间微调开源决策模型 Laya,并让它在生产环境与闭源 Jev 并行处理每个真实请求,但仍由 Jev 的结果生效。训练使用约 4,400 条招聘广告和约 44,000 个问题,明确不用 Jev 输出做蒸馏标签;当前 k6 在 574 个测试决策上准确率为 95.8%,Jev 为 93.7%,但差异尚不显著。
推荐理由:完整呈现用开源决策模型在生产环境影子替换闭源模型的训练、评测、部署与切换门槛,方法可迁移到分类器落地。
Vulnetic 称其对抗性 AI Sable 在 OneDev v16.5.6 中发现 GroovyGate 漏洞,低权限认证用户可在接口返回 403 的同时以 root 身份执行代码。
Boyd Kane 分享申请 MATS 等 AI 安全奖学金的方法,核心是把已有能力通过简历、公开写作、项目和推荐清晰传达给评审。文章建议自学 ARENA 课程、研究目标导师论文、申请多个合适 stream,并维护 YAML 经历库和申请问答记录;同时强调可让 LLM 帮助梳理相关经历,但不要让 LLM 代写答案。
TeXposit 介绍用 Jev 在 AI 助手会话开始时并行回答技能、文件和工具是否需要加载,以减少准备时间。示例中原流程 73 秒里有 59 秒用于设置;Jev 预检通过 42 个是非问题处理 23 个技能、14 个延迟工具和 5 个候选文件。
AI Engineering from Scratch 发布 curriculum v1.0,为 MIT 许可的 2026 开源课程,由 Rohit Ghumare 及贡献者维护。
Johnny Henry 推出 Jabhook,通过摄像头与姿态估计模型提取关节 3D 坐标,经数学处理后交给 LLM 分析拳击组合动作并给出改进反馈。其生物力学算法对比标准动作轮廓,指出差距并给出可执行修正,形成“呼叫组合—观察—分析改进—重复”的负反馈循环。早期引体向上实验显示,依据 LLM 反馈训练可改善动作质量,模型越弱,对数据预处理的数学严谨性要求越高。
该内容以《埃涅阿斯纪》开篇诗句为对象,展示用约束满足方法解析拉丁语诗歌。引文从“Arma virumque cano”开始,叙述特洛伊人出走意大利、朱诺的愤怒以及罗马起源相关主题。
一名前 Google 员工因受伤试用 Claude Code 后,开发 SaaS 产品 ScheduleLord 的效率提升至 3 倍,代码、测试与文档质量稳定。
OpenAI 于 10 月 2 日发布 GPT-6 系列模型指南,帮助用户在控制时间和成本的同时发挥模型能力。指南建议按工作负载选模型:GPT-6 Astra 面向最难推理任务,GPT-6.1 Sol 适合复杂编程、研究和计算机使用,GPT-6 Luna 适合大规模重复任务;提示词应明确目标、受众、上下文、限制和完成标准,日常问答也不必使用最高推理强度。
作者参考斯坦福「人生设计课」,整理出五轮 AI 人生推演提示词,按反向推演、欲望、归零、意义、重新选择的顺序与 AI 对话。每轮提示词要求 AI 先提问,再基于回答推演未来 5 年的工作、生活、关系与取舍,最终设计继续现状、转换路径、追随真实想法三种人生方案。
Nature 文章梳理生成式 AI 对学生批判性思维的影响及培养方法。清华大学研究者严力行发现 Codex 可独立完成课程作业、答题和讨论;2025 年美国千余名高校教师调查中 90% 认为生成式 AI 会削弱学生批判性思维。
Amazon Mechanical Turk 已于 2026-09-30 永久关闭,依赖其公共人力池的 SageMaker Ground Truth 标注任务和 Amazon A2I 人工审核流程需要改用私有或供应商人力池。
一项为期一个月、全程使用 GLM 5.3 Flash 编程的挑战仅实现 50% 目标模型用量,2B tokens 中有 1B 流向其他模型。上半月该模型花费 68 美元、约 4kWh 能耗;一次原型选型失误一夜消耗 450M tokens、150 美元,作者还因性能下降切换到 DeepSeek V4.1 Flash 和 Qwen 3.8 Flash。
一次吃瓜视频制作尝试使用 Claude Code 与 Opus 5.5,由工具自行查找素材并配音。配音采用 Gemini 3.8 Flash TTS,制作者提供了 API Key。
一个早期 AI 工作负载放置决策引擎通过 5 个问题给出本地/设备或云端建议,并提供 CLI、Streamlit 网页应用和基准脚本。
Kernel Recipes 2026 发布格雷格·克罗赫-哈特曼(Greg KH)主题演讲视频《Security in the LLM age》,探讨大语言模型时代的安全问题。视频时长 56:51,于 9 月 29 日上传,采用 Creative Commons Attribution 许可,目前已有 4,884 次观看。
作者基于一起匿名真实事件,给出编码智能体将个人数据和有效 token 推送到公开 GitHub 仓库后的应急手册。处置顺序是先停止智能体并保全会话日志,再镜像扫描完整 git 历史、优先轮换管理员和生产密钥,随后处理仓库可见性、GitHub 支持与 fork 清理。
推荐理由:文章把编码智能体误推密钥后的处置顺序、日志保全和供应商用量审计串成可执行清单,适合团队提前演练。
AWS 团队演示用 Amazon SageMaker AI MTRL 微调 Qwen3.6-27B 搜索智能体,让模型在 BM25 与向量搜索工具之间完成多轮检索。
Amazon Bedrock AgentCore 通过 AgentCore Gateway 将兼容 MCP 的托管 Web Search 接入 Claude Desktop,查询流量保留在 AWS 基础设施内,无需外部 API key。
AWS 介绍 Adjudicated Query 模式,让业务用户在 Amazon Quick 聊天界面提出合规问题,由模型调用固定 MCP 工具,实际通过确定性规则引擎判定。
推荐理由:文章把自然语言入口、确定性规则引擎和完整性凭证拆开,适合需要审计留痕的高风险合规场景借鉴。
文章提出一套面向高可靠软件的 AI 编码流程:工程师亲自写计划、工单和提交说明,让智能体在明确上下文中生成初始代码,再通过人工与智能体多轮迭代、查错和严格评审完成变更。作者强调智能体擅长局部正确的代码和单元测试,但不擅长长期结构、集成测试与系统全局,因此工程师必须持续掌控方向、验证智能体发现的问题,并维护代码、文档和团队理解三者同步。
OpenAI 发布 GPT-6 系列模型使用指南,说明如何为不同任务选择 GPT-6 Astra、GPT-6.1 Sol 和 GPT-6 Luna,并配置推理强度与速度。
推荐理由:官方按生产部署、提示词与长任务拆解 GPT-6 选型和成本控制方法,适合团队对照现有工作流落地。
Databricks 提出一套经实际部署验证的 Genie Agents 选型方法,用业务影响、需求重复性、数据与元数据就绪度、范围清晰度、治理与风险适配五项指标按 1–5 分评估候选工作流。总分 20–25 可立即构建,14–19 需先打磨,低于 14 暂不适合,且没有业务负责人或高管支持者应暂缓。
Super excited to be interviewing @poteto, live, in ~48 hours on YouTube. We'll be nerding out about skills, high-velocity software factories, and learning SOTA techniques for shipping with agents. This Friday - 9AM PT. Don't miss it! https://youtube.com/live/MN9dGgmLyso
GitHub Blog 提出开发者在 AI 时代应强化三项技能:指挥 AI 智能体、不盲信 AI 的首个答案、利用 AI 解决更大的问题。开发者需负责定义问题、审查 AI 生成代码并做技术决策;可用第二个 AI 模型评审首个模型的输出,GitHub Copilot 的 Rubber Duck agent 即采用此方式。
本地 LLM 回答后继续生成、忽略系统提示或丢失指令,通常源于聊天模板或 GGUF token 元数据,而不是模型权重。文章解释聊天模板如何用控制 token 复现训练格式,比较 Hugging Face transformers、llama.cpp 和 minijinja 的模板执行差异,并说明错误停止 token、特殊 token 被拆成普通子词、缺少生成提示等故障。