Precision Numerics 发布 Boole-1.7B：基于 Qwen3-1.7B 的 1-bit 语言模型
Precision Numerics 发布 Boole-1.7B，这是由 Qwen3-1.7B 派生的 1-bit 语言模型，存储权重为 247 MB，面向英文非思考模式推理。
#端侧
#端侧
今日 0 条Hacker News：AI 热帖AI 评分5454
IT之家（RSS）AI 评分5757 Underdog AI 发布 Saluki 27B：2-bit 量化 Qwen3.8-27B，文件 7.89GB
Underdog AI 本月发布 Saluki 27B，它是 Qwen3.8-27B 的 2-bit 量化调优版本，仅保留文字 I/O，文件大小 7.89GB。
IT之家（RSS）AI 评分6767 Liquid AI 开源 d1 系列决策模型，d1-3B 单次判断最快 8 毫秒
Liquid AI 于 10 月 7 日推出 d1-3B 与 d1-omni-600M 两款开放权重决策模型，权重已在 Hugging Face 公开，可下载、微调并部署。
Hacker News：AI 热帖AI 评分6969 Liquid AI 发布 3.12B 多模态决策模型 d1-3B
Liquid AI 发布基于 LFM2.5-VL-3B 的 3.12B 多模态决策模型 d1-3B，可接收文本、JSON、图像或混合状态，并在一次前向传播中返回带校准概率的类型化答案，output_tokens 为 0。
Hacker News 热门（buzzing.cc 中文翻译）AI 评分6767 Cactus Compute 发布 16.9 MB 端侧语音识别模型 Whistle
Cactus Compute 发布语音识别模型 Whistle，单文件 16.9 MB，可在 CPU 上无依赖运行，面向手机、可穿戴设备、机器人、智能家居、汽车和微控制器。
Hacker News：AI 热帖AI 评分6767 Liquid AI 发布开放权重决策模型 d1-3B 与 d1-omni-600M
Liquid AI 发布 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-omni-600M，已上线 Hugging Face。d1-3B 在 Decision Index v0.2.1 公开划分得 48.57，单次前向传播直接给答案，不生成 token；d1-omni-600M 为实验检查点，支持文本加图像或文本加音频，得分 15.95。
Hacker News：AI 热帖精选AI 评分7878 Microsoft 发布 MAI-Code-1.1-Flash，支持端侧运行并降至四分之一成本
Microsoft 发布编码模型 MAI-Code-1.1-Flash，并已在 GitHub Copilot 生产环境中使用。
推荐理由：材料给出端侧量化、256K 上下文、成本与多项编码基准变化，可帮助读者理解本地编码模型的取舍。
Hugging Face Blog精选AI 评分7272 Liquid AI 发布面向边缘设备的开放 d1 决策模型 d1-3B 与 d1-omni-600M
Liquid AI 发布 d1 决策模型家族中的两款开放权重模型 d1-3B 和实验性 d1-omni-600M，均已上线 Hugging Face。
推荐理由：原文给出两款开放权重决策模型的参数规模、多模态输入范围和端侧延迟，可用于比较小模型在结构化判断场景的部署价值。
IT之家（RSS）精选AI 评分7878 Google 发布 EmbeddingGemma 2：7.4 亿参数多模态嵌入模型，量化后手机端文本运行约需 191MB
Google 正式推出 EmbeddingGemma 2，将嵌入能力从文本扩展到代码、图像、视频和音频，并把这些内容统一映射到同一嵌入空间。模型总参数 7.4 亿，基于 Gemma 4 架构，以 Apache 2.0 许可发布；纯文本部分为 2.7 亿参数，可按需加入视觉和音频编码器。
推荐理由：原文给出参数量、内存占用、上下文和下载渠道，可帮助开发者评估端侧多模态 RAG 的接入可行性。
Rohan Paul@rohanpaul_aiAI 评分6969Google DeepMind 发布 Apache 2.0 许可的 EmbeddingGemma 2，这是一款面向端侧的原生多模态开放嵌入模型，可把文本、代码、图像、音频和视频统一到可搜索空间。
引用Google DeepMind@GoogleDeepMindMeet EmbeddingGemma 2, our first natively multimodal open model for on-device embeddings. It expands beyond text to unify code, images, audio, and video in a shared space. 🧵
Google DeepMind精选AI 评分8080 Google DeepMind 发布开源轻量多模态嵌入模型 EmbeddingGemma 2
Google DeepMind 发布 EmbeddingGemma 2，这是基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型，可将代码、文本、图像、视频和音频映射到统一嵌入空间。
推荐理由：原文给出参数量、模块化编码器、8K token 上下文和端侧内存数据，可帮助判断本地多模态检索方案的资源门槛。
The DecoderAI 评分6969 Google 发布开源多模态嵌入模型 EmbeddingGemma 2
Google 发布开源多模态嵌入模型 EmbeddingGemma 2，可将文本、图像、视频、音频和代码转换为数值向量。模型为 740M 参数，在 Massive Text Embedding Benchmark (Code) 上得分 78.68，较前代 68.76 提升近 10 分；Google 称其表现可超过两倍参数量的竞品。
Hacker News：AI 热帖精选AI 评分7676 Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2，这是一个 740M 参数的端侧多模态嵌入模型，可将文本、代码、图像、视频和音频映射到统一嵌入空间。
推荐理由：文章给出参数量、上下文、内存占用和部署工具链，可帮助判断端侧多模态检索与本地 RAG 的落地边界。
IT之家（RSS）AI 评分5757 Amazon Strands Agents 推出开源决策模型 Strands Decider 2B，支持本地部署
Amazon Strands Agents 团队当地时间本月 1 日宣布推出 Strands Decider 2B 决策模型，已在 GitHub 开源、权重发布于 Hugging Face，并可在本地 CPU / GPU 上运行。
Hacker News：AI 热帖AI 评分5555 PewDiePie 用 Heretic 解除 Qwen3.5-9B 审查并发布 Ajax 模型
PewDiePie 发布可在家用 PC 运行的无审查 AI 模型 Ajax，称制作期间被 OpenAI 封禁两次。他展示的 OpenAI 邮件显示，其中一次封禁明确指向蒸馏；Ajax 面向其自托管 AI 工作区 Odysseus，定位为持续在线的自主 AI 智能体和助手。
IT之家（RSS）AI 评分4242 Signal65 报告：高通骁龙 X2 Elite 芯片在 CPU / AI 等方面优于英特尔酷睿 Ultra X7 358H
Signal65 于 10 月 1 日发布报告，测试显示 18 核高通骁龙 X2 Elite（X2E-88-100）在 CPU、AI、生产力和多数续航项目中领先英特尔酷睿 Ultra X7 358H。
elvis@omarsar0AI 评分5555
引用David Stout@DavidstoutHalf a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸
- Rohan Paul@rohanpaul_aiAI 评分5757
引用David Stout@DavidstoutHalf a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸
Hacker News：AI 热帖AI 评分5353 Heimr 570M 端侧实验模型发布，长上下文解码速度提升 2 至 8 倍
Heimr 570M 是面向手机和笔记本的实验性混合 MoE 模型，总参数 2.7B、每 token 激活约 570M，训练上下文为 64K。模型由 16 层 Mamba-3 和 4 层 Heimr attention 组成，在 64K 上下文下单流解码比 Qwen3-0.6B 快 14 倍，DCLM CORE 得分为 0.411。
Hacker News：AI 热帖AI 评分6767 Lokutor 发布 Oído：可在 5 美元 ESP32-S3 上运行的开放词汇英语语音识别
Lokutor 发布 Oído，让任意英语句子的语音转文字完全运行在 ESP32-S3 上，无需云端、固定命令列表或神经加速器。
Hacker News 热门（buzzing.cc 中文翻译）AI 评分7070 Jeff 发布兼容 Jev 的 0.8B 与 2B 本地决策模型
Jeff 发布基于 Qwen3.5 和 Gemma 4 的小型零样本分类决策模型，包含 Jeff-Qwen3.5-0.8B、Jeff-Qwen3.5-2B 和 Jeff-Gemma4-E2B，采用与 Jev 相同的请求格式。
Latent SpaceAI 评分3232 Jev 发布两天后涌现 6 个克隆项目：AINews 盘点复现路线与生态反应
非生成式决策模型 Jev 发布两天内出现 Laya、DiffusionGemmaJev、Bespoke Nimble、SemIf、Jevlike、Kev-0.5B 六个克隆项目，其发布视频两天获 36M 次观看。
Hugging Face Blog精选AI 评分6060 Liquid AI 发布 LFM2.5-DSpark 草稿模型，LFM2.5 推理最高加速 3.18 倍
Liquid AI 发布面向 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 的 DSpark 草稿模型检查点，通过推测解码提升推理速度且不改变贪心解码输出。
推荐理由：文章给出三款草稿模型的参数规模、H100 与 M4 Max 实测加速及 llama.cpp、SGLang 接入方式，便于评估端侧和服务端部署收益。
Google DeepMind精选AI 评分8383 Google DeepMind 发布 SL2T 手语转文本模型，并在 Pixel 11 的 Gboard 与 Live Transcribe 落地
Google DeepMind 发布大规模多语言手语转文本模型 SL2T，首先支持 ASL 到英语，并在 Pixel 11 的 Gboard 和 Live Transcribe 中提供手语转文字听写，更多设备和语言将随后推出。
推荐理由：原文说明了 SL2T 的手语到文本技术路径、训练规模和首批落地入口，可帮助读者理解视觉手语翻译进入消费产品的方式。
Hugging Face Blog精选AI 评分7272 NVIDIA Magpie TTS Multilingual 发布开放权重版本，支持12种语言与自托管低延迟语音智能体
NVIDIA 在 Hugging Face 发布 Magpie TTS Multilingual 开放权重模型，参数规模364M，支持12种语言，并提供 NVIDIA NIM 生产推理容器。
推荐理由：文章给出12种语言、364M参数和多GPU延迟数据，可帮助评估自建低延迟语音智能体的部署方案。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini Robotics 2，带来机器人全身智能与多机协作
Google DeepMind 推出 Gemini Robotics 2，包含 VLA 模型 Gemini Robotics 2、具身推理模型 Gemini Robotics ER 2 和本地运行的 Gemini Robotics On-Device 2。
推荐理由：官方拆解了三款模型在全身控制、灵巧操作、长程协作和端侧适配上的分工，可帮助理解机器人智能层的能力边界。
Google Research精选AI 评分6666 Google 用冻结式 Multi-Token Prediction 加速 Pixel 上的 Gemini Nano v3
Google 宣布为已部署的冻结 Gemini Nano v3 模型加装轻量 MTP 头，并已在 Pixel 9 和 Pixel 10 系列推出，用于加速 AI Notification Summaries 和 Proofread。
推荐理由：文章解释了冻结 Gemini Nano v3 主干并加装 MTP 头的移动端加速方案，可帮助理解端侧 LLM 在内存和能耗约束下的工程取舍。
Google DeepMind精选AI 评分8282 Google DeepMind 发布开源实验模型 DiffusionGemma，文本生成最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用 26B MoE 架构、推理时激活 3.8B 参数，并以 Apache 2.0 许可证在 Hugging Face 开放权重。
推荐理由：原文给出并行文本扩散的架构取舍、硬件门槛和本地推理速度，可帮助判断其适用场景。
Google DeepMind精选AI 评分8383 Google DeepMind 发布 Gemma 4 12B 无编码器统一多模态模型
Google DeepMind 发布 Gemma 4 12B，这是一款面向笔记本本地运行的智能体多模态模型，可在 16GB VRAM 或统一内存上运行。模型采用无独立多模态编码器的统一架构，视觉和音频输入直接进入 LLM 主干，并内置 Multi-Token Prediction drafters 以降低延迟；官方称其基准性能接近 26B MoE，且总内存占用不到一半。
推荐理由：官方说明了无编码器统一架构、16GB 内存本地运行和 Apache 2.0 开放方式，便于评估端侧多模态智能体开发可行性。
Mistral AI精选AI 评分8181 Mistral AI 发布 Voxtral Transcribe 2 语音转文字模型
Mistral AI 发布 Voxtral Transcribe 2，包含面向批处理的 Voxtral Mini Transcribe V2 和面向实时场景的 Voxtral Realtime，均支持 13 种语言。
推荐理由：官方同时给出批处理与实时两款语音转文字模型的延迟、价格、语言支持和开放权重安排，便于比较接入方式。
Mistral AI精选AI 评分9191 Mistral AI 发布 Mistral 3 模型家族，含 Mistral Large 3 与 Ministral 3
Mistral AI 发布下一代 Mistral 3 模型家族，包含 3B、8B、14B 的 Ministral 3 稠密模型，以及 41B active、675B 总参数的稀疏 MoE 模型 Mistral Large 3，全部采用 Apache 2.0 许可。
推荐理由：官方同时给出模型规格、开源许可、部署平台和基准位置，便于读者按端侧到数据中心的不同场景选型。
Mistral AI精选AI 评分8282 Mistral AI 发布 Mistral Small 3.1，支持多模态与 128k 上下文
Mistral AI 发布 Mistral Small 3.1，提供 Base 和 Instruct checkpoints，采用 Apache 2.0 许可证。
推荐理由：官方给出性能、速度、128k 上下文和本地硬件要求，可帮助评估小模型在端侧与低延迟场景的适用性。
Mistral AI精选AI 评分8585 Mistral AI 发布 24B 开源模型 Mistral Small 3
Mistral AI 发布 Mistral Small 3，这是一款面向低延迟场景的 24B 参数模型，预训练和指令微调检查点均以 Apache 2.0 许可证开放。
推荐理由：官方给出参数量、许可证、速度、评测和本地部署条件，便于评估其作为低延迟开源基座的适用场景。