Anthropic 研究称小型 AI 模型或在无需数据中心的情况下实现自我复制
Anthropic 的 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型在商业 IoT 设备上自主部署、传播并运行推理的可行性。
推荐理由:研究用真实 Android TV 盒子和受控 GCP 节点拆解 AI 蠕虫复制链路,为评估端侧模型的网络安全风险提供了可核对的实验框架。
Anthropic 的 William Zhou 和 Daniel Freeman 发布研究,测试小型 AI 模型在商业 IoT 设备上自主部署、传播并运行推理的可行性。
推荐理由:研究用真实 Android TV 盒子和受控 GCP 节点拆解 AI 蠕虫复制链路,为评估端侧模型的网络安全风险提供了可核对的实验框架。
Cascadia在11台Intel Core Ultra X7 358H AI PC上常驻运行总参数975B、活跃参数41B的MoE模型Inkling,自研引擎将dense层调用时间从约8.1ms降至4.5ms。系统在88路并发下达到60.29 tokens/s聚合解码速度,完整服务阶段为46.87 tokens/s,15路并发时首token延迟中位数6.05秒,单流内存可支持512k位置上下文。
IBM 发布类脑 AI 芯片 NorthPole,在 AI 任务上速度较市面主流芯片最高快 22 倍、每瓦能效最高达 25 倍。该芯片采用 12-nm 工艺、片上内存与计算-in-内存架构,支持 2-bit、4-bit、8-bit 低精度运算,无需液冷,可用于自动驾驶、机器人、语音识别等边缘场景。
Berkeley AI Research 与 IBM Research 介绍扩展 K-Search 的 MLX 后端,通过结构化 CUDA-to-MLX 翻译层把既有 CUDA kernel 优化知识转化为 Apple Silicon 可用的搜索约束。
Google Research 在 Nature 论文中提出 PHRM 研究系统,可在用户面部解锁手机后通过前置摄像头拍摄 8 秒面部视频,在日常使用中被动估计心率和每日静息心率。
推荐理由:文章给出跨肤色验证误差、真实环境测试和数据集开放方式,可帮助读者理解手机摄像头被动测心率的可行边界。