跳到正文

#部署/工程

今日 33 条
9月29日周二
  1. Hacker News:AI 热帖47

    Tinfoil:基于安全硬件构建的隐私 AI

    Tinfoil 推出基于机密计算的隐私 AI 平台,通过安全 enclave 隔离 AI 工作负载,使数据在内存中加密、仅在 enclave 内解密,连 Tinfoil 自身也无法访问。该平台开源,支持多 GPU 机密计算,采用处于机密计算模式的 NVIDIA Hopper 和 Blackwell GPU,性能接近非隐私计算,并提供运行时证明与供应链透明度日志。

  2. elvis40

    这里的内容颇具雄心,但要更好地利用你的智能技术栈,这非常必要。 企业将需要一个关于其 AI 如何运作的记录系统,就像它们针对客户和财务所做的那样。 CData 全新的 Connect AI Gateway 处理你的模型、智能体和业务系统之间的每一个请求。它将每个请求路由到合适的模型或工具,在每次调用时检查身份和策略,并将每次交互学到的内容保存为其他智能体可复用的上下文。

    引用Raviv levi@ravivlevi

    You’ve spent years teaching people how your company works. Your AI needs that knowledge too. Introducing Connect AI Gateway. It routes, governs, and learns from AI requests, building a system of record for how your company thinks. Early access is live: https://cdata.com/ai

  3. Hacker News:AI 热帖74

    SlopTotal 开源自托管 AI 文本检测器发布,可在 CPU 上并行运行 23 个检测引擎

    SlopTotal 发布免费、开源、自托管的 AI 文本检测器,可在本机 CPU 上并行运行 23 个检测引擎,并将各引擎分数校准为综合结论。它支持粘贴文本、URL、PDF、Word、TXT 和 Markdown,也能识别 Lovable、v0、Bolt、Base44、Replit、Same 等 AI 应用构建器留下的网站指纹。

  4. MIT Technology Review · AI34

    HPE 谈如何让 AI 从开支变为资产

    HPE 指出,AI 从试点进入生产组合后,企业应按工作负载评估自持 AI 容量,而非只按 token 价格逐次消费。Deloitte《2026 State of AI in the Enterprise》显示,2025 年员工 AI 访问率上升 5%,至少 40% AI 项目进入生产的企业占比预计 6 个月内翻倍。企业需判断需求稳定性、自持成本交叉点,并通过采用、治理和持续扩展用例保持容量高利用。

  5. Rohan Paul24

    KAYTUS推出KSManage平台,让数据中心运营商在单一仪表板中监控管理多厂商服务器、存储、网络设备与液冷系统,无需在分散工具间切换。该平台支持5,000+设备型号、管理100,000+基础设施资产,可同时呈现节点功耗、冷却液温度与GPU时钟,帮助高密度液冷机架释放安全余量。

    引用KAYTUS@KAYTUS_

    As AI data centers scale, the real operational challenge isn't power or performance — it's visibility. Servers, storage, networking, and liquid cooling systems from multiple vendors create a sprawling, complex infrastructure that traditional siloed tools simply can't manage effectively. In our new KSManage video series, Alberto Stec, General Manager of KAYTUS UK&I, takes a deep dive into how KSManage brings it all under one roof — supporting 5,000+ device models and managing 100,000+ infrastructure assets. 👉 Watch Episode 2 to discover a smarter way to manage the AI data center with total visibility.

  6. Claude:Blog(网页)72

    Anthropic 复盘智能体编码挤压 CI:测试影响分析服务如何扩展

    Anthropic 复盘其测试影响分析服务在智能体编码带来的 CI 压力下完成架构重构。工程师人均每季度代码产出达到 2021-2025 年的 8 倍,Claude 编写其中 80% 的代码,代码库测试量增长 10 倍,CI 作业在 6 个月内增长 25 倍。

    推荐理由:文章用 Anthropic 内部 CI 负载变化和架构演进,说明智能体加速研发后测试基础设施需要按指数增长提前设计。

  7. IT之家(RSS)65

    三星系 6 家企业合计向 AI 基础设施公司 Helix 投资 10 亿美元

    三星电子、三星物产、三星 SDS、三星 SDI、三星人寿保险和三星火灾海上保险宣布向 KKR 创立的 AI 基础设施公司 Helix 合计投资 10 亿美元,其中三星电子出资 5 亿美元。Helix 由 AWS 前首席执行官 Adam Selipsky 领导,业务覆盖超大规模数据中心、发电、输配电和光纤网络;三星各公司可分别提供半导体、暖通空调、数据中心建设运营、GPUaaS 及电池产品。

  8. Databricks:Blog(RSS)74

    Databricks 如何在首日向 14,000 名员工推出前沿模型

    Databricks 介绍了通过 Unity Gateway 在新模型发布首日向员工开放实验性访问、按用户预算控制成本,并在三天内依据基准、用户反馈和 OpenTelemetry 成本追踪决定是否推广的流程。

    推荐理由:文章拆解了企业在新模型发布首日开放、预算约束和三天内依据质量与成本信号决定推广的完整流程。

  9. Databricks:Blog(RSS)70

    Databricks 为 Lakebase Postgres 推出 Lakebase Search,支持向量与 BM25 全文检索

    Databricks 发布 Lakebase Search,通过 lakebase_vector 和 lakebase_text 两个扩展为 Lakebase Postgres 提供可扩展近似向量检索与 BM25 全文检索,两项能力已在 AWS 和 Azure GA。

    推荐理由:文章给出 Lakebase Search 的向量与 BM25 混合检索架构、VectorDBBench 100M 指标和云上可用范围,便于评估 Postgres 内统一 OLTP 与搜索的可行性。

  10. Databricks:Blog(RSS)27

    Databricks 如何用数据与 AI 连接制造业产品价值链

    Databricks 提出借助 Data and AI Platform 打通制造业产品价值链,将分散在 MES、ERP、QMS、CRM 等系统中的研发、采购、生产、物流、销售与售后数据连接起来。平台以序列号、批次或零件号作为共享标识,并通过 zero-copy Open Sharing、Lakehouse Federation 等能力在无需大规模迁移源系统的情况下实现跨系统查询与追溯。

  11. Databricks:Blog(RSS)42

    如何推行 Genie One:企业分步落地指南

    Genie One 是面向业务用户的数据智能 AI 同事,支持自然语言提问、引用受治理数据来源并触发后续多步骤工作。企业推行包含 Genie One、Genie Agents、Genie Ontology 与 Unity Catalog 四个组件,并应先从单一团队和明确问题集启动试点。试点前需定义语义层、指定负责人、配置权限与审计,并用 25 到 50 个真实问题评估答案质量。

9月28日周一
  1. Mistral AI52

    Mistral 在慕尼黑开设德国枢纽,推进工业 AI 与欧洲主权计算

    Mistral 宣布在慕尼黑开设德国枢纽,聚焦 Physics AI 与 Industrial AI,并直接服务企业合作伙伴。该枢纽将招聘研究、工程和应用 AI 人员;Mistral 已与 BMW 开展碰撞模拟和工程 AI 合作,与 Siemens Energy 开展工业 AI 应用合作,并与慕尼黑工业大学利用风洞设施研发汽车空气动力学数字孪生。

  2. AWS Machine Learning Blog38

    如何用 Amazon Nova Act 实现智能体驱动的合成监控

    AWS 文章介绍了基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体合成监控方案,用多模态 LLM 读取 UI 截图替代 DOM 选择器,早期企业用例中浏览器工作流准确率超过 90%。方案由 EventBridge Scheduler 按 5 分钟至 1 小时调度,失败时通过 Amazon SNS 告警,并提供含完整实现的示例仓库。

9月27日周日
9月26日周六
  1. AWS Machine Learning Blog65

    NarrateAI 如何在 Amazon Bedrock 上实现生产级 LLM 质量保障

    AWS 介绍 NarrateAI 在 Amazon Bedrock 上用五项工程机制实现生产级 LLM 质量保障,服务超过 4,000 名 AWS 高管用户。系统通过自适应流水线让约 90% 查询走单次 LLM 调用,混合成本约为每次查询 1.4 次 LLM 调用;跨账号多模型故障转移把模型与账号组合成独立配额空间,负载测试支持超过 100 名用户并发流式请求。

    推荐理由:文章拆解了自适应路由、跨账号故障转移、流式评估和数值校验的工程组合,适合构建生产级 LLM 应用时参考。

9月25日周五
  1. Databricks:Blog(RSS)37

    在 Databricks 上用 SQL 运行 open-Jev

    Databricks 展示如何在其平台上部署开源决策模型 SemIf-OpenJev,并通过 SQL 中的 ai_query 直接对受治理数据运行结构化分类。该方案使用 Serverless GPU 与 AI Runtime,经 Notebook 自动下载模型、通过 Express Deployments 注册并创建 GPU Model Serving 端点,示例用于将酒店评论分类为好评或差评。

  2. Databricks:Blog(RSS)61

    Databricks 推出 Unity Gateway CLI,集中部署和管理编码智能体

    Databricks 推出 Unity Gateway CLI,让管理员集中配置编码智能体的默认模型、MCP 服务器、技能、Smart Routing 和支出策略,开发者可用 ug claude、ug codex 等命令启动已批准的智能体。

    推荐理由:文章说明了集中配置、预算策略、Smart Routing 和追踪如何统一治理多类编码智能体,便于评估企业级落地方式。

  3. AWS Machine Learning Blog42

    在 SageMaker AI 上使用 WhisperX 实现带说话人标签的语音转录

    AWS 推出 WhisperX 深度学习容器,可在 Amazon SageMaker AI 上部署带逐词时间戳和说话人标签的语音转录服务。该容器基于 OpenAI Whisper,集成 wav2vec2 强制对齐与说话人分离,支持 json、srt、vtt 等输出格式,无需自建镜像。实时端点适用于 60 秒内的短音频,异步端点适用于长音频与批量任务。