跳到正文

#端侧

今日 11 条
10月4日周日
  1. Hacker News:AI 热帖41

    AWS Hero Thorsten Hoger 主讲《面向普通人的 AI》视频:无代码实用场景解析

    AWS Hero Thorsten Hoger 在视频中讲解非开发者如何不写代码用 AI 完成实际事务,涵盖手机搭建家庭食谱库、分析 13 个月健身数据、读取日历与会议记录的个人 AI 项目经理,以及牙科诊所和税务咨询公司案例。内容还涉及用 Fireflies 与 MCP 做会议智能、GDPR 隐私合规与本地模型选择,并建议本周从单一任务起步。

  2. Hacker News:AI 热帖62

    本地运行 AI 模型新手指南:硬件、术语与 LM Studio 实操

    一篇面向新手的本地 AI 教程讲解如何在个人电脑上运行模型,涵盖隐私、离线、免订阅等优势,以及至少 8GB RAM 和 5GB 以上存储空间等要求。文章解释参数量、模型文件大小、量化、推理、token、上下文窗口、RAM/VRAM、GGUF、嵌入向量和评测等概念,并对比 Ollama、LM Studio、llama.cpp、Jan、Msty。

10月3日周六
  1. 🚨 AI News | TestingCatalog49

    Muse 发布 Muse Gadgets 开源 ESP32 固件及 Linux SDK,并推出 Muse Home Link 设备,让 Muse 连接兼容智能设备或本地 HTTP API 硬件。社区技能可控制灯光、电视、打印机等;Home Link 面向美国活跃订阅用户免费申领,每人限一台,10 月发货,先到先得。

    引用Alexandr Wang@alexandr_wang

    🚨 MUSE ECOSYSTEM ALERT 🚨 today we are announcing Muse Gadgets! this is an open-source ESP32 firmware and Linux SDK for anyone to make hardware that works with Muse we are also releasing our own gadget—Muse Home Link—to enable your muse to work with your smart devices (TV, speakers, etc.)

  2. Hacker News:AI 热帖46

    Show HN:Bloby——基于 Chrome AI 与 Ollama 的 Clippy 增强版 Chrome 扩展

    Bloby 1.0.7 是一款免费无广告的 Chrome 扩展,以悬浮 AI 伙伴形式支持语音点击、填表、读取页面内容与搜索等免手操作。它通过设备端 Chrome LLM(Gemma 4)和本地 Ollama 集成完成推理,宣称兼容 99.99% 网站且不进行第三方追踪;使用前需在 chrome://flags 启用 Prompt API 和 Gemma 4 for Built-in AI。

10月2日周五
  1. Hacker News:AI 热帖72

    本地 LLM 停不下来时,问题可能不在模型:排查聊天模板与 GGUF 元数据

    本地 LLM 回答后继续生成、忽略系统提示或丢失指令,通常源于聊天模板或 GGUF token 元数据,而不是模型权重。文章解释聊天模板如何用控制 token 复现训练格式,比较 Hugging Face transformers、llama.cpp 和 minijinja 的模板执行差异,并说明错误停止 token、特殊 token 被拆成普通子词、缺少生成提示等故障。

  2. IT之家(RSS)47

    极狐阿尔法 T5 汽车推送 OTA:部分车型新增苹果 CarPlay / 华为 HiCar 与端到端 4.0 辅助驾驶模型

    极狐汽车为阿尔法 T5 推送新一轮 OTA,包含 5 项新增功能与 1 项功能优化。元境版新增苹果 CarPlay、华为 HiCar 手机互联及高悟性端到端 4.0 辅助驾驶模型,睿享版新增 APA 泊出辅助、RPA 遥控泊车辅助与哨兵模式远程控制;全车型新增 HUD 导航红绿灯读秒,并优化天空扬声器音效。

  3. IT之家(RSS)58

    马斯克称特斯拉为保障 Optimus 量产将 AI5 内存砍半,并下调 AI6 内存

    马斯克在 X 平台表示,特斯拉为储备内存推进 Optimus 量产,计划把 AI5 RAM 从 144GB 降至 72GB LP5,把 AI6 RAM 从 216GB 降至 144GB LP6。他称内存带宽更可能成为性能瓶颈,而带宽保持不变,因此预计对 Optimus 性能影响可以忽略。相关讨论还引用美光科技预测,即人形机器人每台需超 200GB DRAM 及数 TB NAND。

  4. elvis55

    webAI 发布开源模型 TwIL-LM3-Pro,参数为 3.6B,提供量化版本,可在日常电脑本地运行且无需云端。转发者称其 BIG-Bench Hard 逻辑子集得分为 95.4%,高于 Qwen3-8B 的 63.7%;训练流程包括形式逻辑微调、将权重向基础模型合并,再用程序化验证器运行 RL。webAI 还表示后续将推出端侧前沿级模型系列 Meridian。

    引用David Stout@Davidstout

    Half a million downloads in a month. Today, our open source family takes another step forward. Thank you for the incredible support behind our first-generation models. We’re excited to introduce TwIL-LM3-Pro. At just 3.6 billion parameters, it brings powerful reasoning to everyday computers, with quantized builds that run locally. No cloud required. In our evaluation: Formal logic: Highest recorded headline score among the small models compared—beating China’s VibeThinker-3B by 35% and Qwen3.5-4B by 24%, and Liquid AI’s LFM2.5-8B-A1B by 47%. Broader reasoning: 95% on SVAMP and 64.1% on MuSR, the highest recorded scores among the small models compared. BIG-Bench Hard’s logic subset: 95.4%, compared with VibeThinker-3B’s 61.1%. We believe AI is entering a post-training era. The advantage will increasingly belong to companies with the best pipelines and those that can produce capable, personalized intelligence faster and more efficiently, then put it on devices people already own. That’s what we’re building at webAI. And we’re only beginning to share what’s coming out of our lab. Coming soon: Meridian, our family of frontier-class models built to run on device. Our most advanced models will be available through the @thewebAI application. Join the waitlist as we expand access. Proudly built in Austin, Texas. 🇺🇸

10月1日周四
  1. IT之家(RSS)36

    华为 Mate XT 2 三折叠手机获 HarmonyOS 7.0.0.109 SP8 升级,通信共享支持多人互助共享

    华为 Mate XT 2 非凡大师三折叠手机推送 HarmonyOS 7.0.0.109 SP8 更新,新增 3D 空间壁纸,并支持与 HarmonyOS 7 手机、平板、鸿蒙电脑多人互助通信共享。更新还支持照片生成 3D 动态照片、深色模式随日出日落切换、熄屏循迹导航,并优化小艺多模态基础大模型推理速度与相机成像。系统采用分批推送,未收到的用户可手动检查更新。