M4 Pro MacBook Pro 外接 iPhone 17 Pro Max 运行 Qwen3.8-27B,预填充性能最高提升 44%
Reddit 用户 u/StayLameBro 通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 内存的 M4 Pro MacBook Pro,并用开源项目 backburner 协同运行 Qwen3.8-27B,预填充性能最高提升 44%。
Reddit 用户 u/StayLameBro 通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 内存的 M4 Pro MacBook Pro,并用开源项目 backburner 协同运行 Qwen3.8-27B,预填充性能最高提升 44%。
AWS Hero Thorsten Hoger 在视频中讲解非开发者如何不写代码用 AI 完成实际事务,涵盖手机搭建家庭食谱库、分析 13 个月健身数据、读取日历与会议记录的个人 AI 项目经理,以及牙科诊所和税务咨询公司案例。内容还涉及用 Fireflies 与 MCP 做会议智能、GDPR 隐私合规与本地模型选择,并建议本周从单一任务起步。
一篇面向新手的本地 AI 教程讲解如何在个人电脑上运行模型,涵盖隐私、离线、免订阅等优势,以及至少 8GB RAM 和 5GB 以上存储空间等要求。文章解释参数量、模型文件大小、量化、推理、token、上下文窗口、RAM/VRAM、GGUF、嵌入向量和评测等概念,并对比 Ollama、LM Studio、llama.cpp、Jan、Msty。
Janus 是一个单 Go 二进制本地 LLM 服务器,可在本机通过 Vulkan 调用 llama.cpp 运行 .gguf 模型,并提供兼容 OpenAI 的 API。
极客湾发布华为 Mate 90 Pro Max 性能分析报告,实测其搭载的麒麟 9050 Pro 在部分游戏中的能效优于部分骁龙 8 Elite Gen5 机型。麒麟 9050 Pro 整机性能提升 31%,CPU 多核、GPU 能效胜过谷歌 Tensor G6;Mate 90 Pro Max 内置 6800mAh 电池,续航达 9 小时 56 分钟。
Jabhook 是一款实验性拳击训练应用,通过摄像头捕捉动作,结合 3D 生物力学分析与本地 LLM 生成个性化指导,全程在本地运行。该应用现以测试版形式发售,售价 40 美元,需 Apple Silicon、macOS 26.2 或更高版本及摄像头,支持 Linux 的正式版计划于 12 月推出。
Meta 宣布开源项目 Muse Gadgets,让爱好者自制 AI 硬件,包含 ESP32 固件和用于接入 Meta AI 智能体 Muse 的 Linux SDK,代码采用 Apache 2.0 许可并设有 Discord 社区。
GeaStack 发布两款开源应用 Spark 和 Amuse,可在 Waveshare ESP32-S3 Touch AMOLED 2.06 手表板上运行可对话 AI 形象。
AMD 向航天客户交付 Versal AI Core XQRVC1902 自适应 SoC 早期样品,可满足 15 年太空任务要求。该芯片采用航天级无盖封装、保守设计规则与增强型有机基板材料,搭配航天级芯片电容器,以减轻太空热应力和机械应力影响。AMD 正按 MIL-PRF-38535 Y 级认证对其进行测试。
Amazon Strands Agents 团队当地时间本月 1 日宣布推出 Strands Decider 2B 决策模型,已在 GitHub 开源、权重发布于 Hugging Face,并可在本地 CPU / GPU 上运行。
Underdog 是一款仅限邀请测试的 100% 本地个人 AI,目前可在搭载 Apple silicon 的 Mac 上使用,AI 处理在本机完成,内容不会发送至云端服务。
Redis 创建者 antirez 推出本地推理引擎 DwarfStar 4(ds4),面向高内存 Mac、CUDA 和 ROCm 机器运行开放权重模型。
一个早期 AI 工作负载放置决策引擎通过 5 个问题给出本地/设备或云端建议,并提供 CLI、Streamlit 网页应用和基准脚本。


🚨 MUSE ECOSYSTEM ALERT 🚨 today we are announcing Muse Gadgets! this is an open-source ESP32 firmware and Linux SDK for anyone to make hardware that works with Muse we are also releasing our own gadget—Muse Home Link—to enable your muse to work with your smart devices (TV, speakers, etc.)
Moorcheh Edge 在 Arduino UNO Q 与 Ventuno Q 两块 ARM64 开发板上完成 1536 维向量检索基准,覆盖 10k、100k、1M 向量规模。
Transcripted 是一款免费开源的 Mac 应用,可录制会议和口述并在本机保存为纯 Markdown 文本文件,供 AI 工具读取。它通过监听麦克风和 Mac 系统声音获取 Zoom、Meet、Teams 或 FaceTime 双方语音,不会让机器人加入通话,也不上传音频。
Nvidia 推出 64GB 版 DGX Spark,采用 GB10 SoC,面向不需要 128GB 内存的本地 AI 用户,起售价为 4999 美元。该配置调整也回应了当前 AI 模型需求变化和更广泛的芯片供应紧张。
Bloby 1.0.7 是一款免费无广告的 Chrome 扩展,以悬浮 AI 伙伴形式支持语音点击、填表、读取页面内容与搜索等免手操作。它通过设备端 Chrome LLM(Gemma 4)和本地 Ollama 集成完成推理,宣称兼容 99.99% 网站且不进行第三方追踪;使用前需在 chrome://flags 启用 Prompt API 和 Gemma 4 for Built-in AI。
Lokutor 发布 Ito,这是可完全在 ESP32-S3 上运行的英文流式神经 TTS,无需云端或 NPU,模型为 4.4M 参数、芯片权重 4.89 MB。
PewDiePie 发布可在家用 PC 运行的无审查 AI 模型 Ajax,称制作期间被 OpenAI 封禁两次。他展示的 OpenAI 邮件显示,其中一次封禁明确指向蒸馏;Ajax 面向其自托管 AI 工作区 Odysseus,定位为持续在线的自主 AI 智能体和助手。
本地 LLM 回答后继续生成、忽略系统提示或丢失指令,通常源于聊天模板或 GGUF token 元数据,而不是模型权重。文章解释聊天模板如何用控制 token 复现训练格式,比较 Hugging Face transformers、llama.cpp 和 minijinja 的模板执行差异,并说明错误停止 token、特殊 token 被拆成普通子词、缺少生成提示等故障。
作者复盘在 16GB Mac Mini M4 上运行 Claude Code、Codex 和本地 Qwen 模型时,因 35B 本地模型持续触发磁盘换入、叠加云端 harness、GUI 会话和大量自动化任务,导致设备反复重启。
NVIDIA DGX Spark 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版本,起售价 $4,999。
英伟达推出 64GB 内存版 DGX Spark 桌面 AI 计算机,起售价 4,999 美元,将于 10 月 23 日发售,128GB FE 版本同步定价为 6,950 美元。
博主 @i冰宇宙 称三星电子已开始量产 Exynos 2700 处理器,产量较上一代提高 10%,将用于 Galaxy S27 系列手机。该芯片 Geekbench 6.7.1 工程样片跑分单核 4,328 分、多核 14,700 分,CPU 采用十核 1+4+1+4 集群设计,或搭载 Xclipse 970 GPU、专用 NPU 并支持 LPDDR6 内存。
Sozly AI 是面向企业的本地化多模态 AI 平台,整合 Knowledge、Voice、Translator、Grammar 等模块,全部在本地服务器运行,无需互联网连接。
DVG 是一款面向 AI 视频制作的免费语音生成工具,可在 Apple Silicon Mac 本地运行,采用 GPL-3 开源许可、无需订阅,需约 16GB 存储空间。
极狐汽车为阿尔法 T5 推送新一轮 OTA,包含 5 项新增功能与 1 项功能优化。元境版新增苹果 CarPlay、华为 HiCar 手机互联及高悟性端到端 4.0 辅助驾驶模型,睿享版新增 APA 泊出辅助、RPA 遥控泊车辅助与哨兵模式远程控制;全车型新增 HUD 导航红绿灯读秒,并优化天空扬声器音效。
ImageGen 是一款原生 macOS 应用,可在 Apple Silicon Mac 上通过 Metal/MPS 本地运行 Qwen-Image 2.1,支持离线文生图、图像编辑、最多 10 张参考图合成和透明 PNG。
Yes-Brainer 是一个浏览器端 AI 模型议会工具,可让多个模型并行回答、经多轮辩论达成共识,或通过匿名互评与 Judge 模型给出最终裁决。它采用 BYOK 方式,API keys 直连所选提供商,无需账号和服务器,代码以 AGPL-3.0 开源。
Signal65 于 10 月 1 日发布报告,测试显示 18 核高通骁龙 X2 Elite(X2E-88-100)在 CPU、AI、生产力和多数续航项目中领先英特尔酷睿 Ultra X7 358H。
微软将于太平洋时间 10 月 7 日上午 10 点举办面向开发者和构建者的线上活动,北京时间为 10 月 8 日凌晨 1 点,主题是本地 AI 如何塑造下一代 PC。
马斯克在 X 平台表示,特斯拉为储备内存推进 Optimus 量产,计划把 AI5 RAM 从 144GB 降至 72GB LP5,把 AI6 RAM 从 216GB 降至 144GB LP6。他称内存带宽更可能成为性能瓶颈,而带宽保持不变,因此预计对 Optimus 性能影响可以忽略。相关讨论还引用美光科技预测,即人形机器人每台需超 200GB DRAM 及数 TB NAND。
推出 Conductor Mobile! 从你的 iPhone 运行一个云端 AI 智能体团队,现已在 App Store 上线。
Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸
Innerloop 在 Hacker News 展示 Breadcrumb,这是一款运行在 Mac 上的开发者 AI 插件,可记录屏幕、会议和 AI 会话,并向 Claude、ChatGPT、Cursor、opencode 提供上下文。
TrueScribe 发布面向 Windows 和 Linux 的本地 AI 转写工作室,可在本机运行 Whisper 完成音视频转写,并提供时间戳编辑、播放校对、历史搜索和 TXT、SRT、WebVTT 导出。
华为 Mate XT 2 非凡大师三折叠手机推送 HarmonyOS 7.0.0.109 SP8 更新,新增 3D 空间壁纸,并支持与 HarmonyOS 7 手机、平板、鸿蒙电脑多人互助通信共享。更新还支持照片生成 3D 动态照片、深色模式随日出日落切换、熄屏循迹导航,并优化小艺多模态基础大模型推理速度与相机成像。系统采用分批推送,未收到的用户可手动检查更新。
惠普战 99 锐龙版 AI 高性能移动工作站正式发布,10 月 12 日晚开售,共五款配置,售价 14599 元至 21999 元。顶配搭载 AMD R9-9955HX3D 处理器与 NVIDIA RTX PRO 2000 显卡,配 16 英寸 2.5K 240Hz 屏,整机性能释放至高 200W。该机支持快充,通过 ISV 专业认证与 11 项军标认证。
听力技术初创公司 Legato 宣布旗舰 AI 助听眼镜 Legato Frames 正式开售,售价 999 美元起,面向最高为中度听力损失的成年人。该眼镜用 AI 区分人声与背景噪声,在放大声音的同时降低杂音,双扬声器可在距耳朵几英寸处将外泄声音降低 99%。