跳到正文
热点事件持续更新

英特尔推出至强推理微服务

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月14日,英特尔推出 Intel Inference Microservices(英特尔推理微服务)。该服务以容器化微服务形式,在第四代、第五代和第六代至强处理器上提供经过调优的大语言模型推理能力。每个容器通过兼容 OpenAI 的 API 暴露单个模型,并在启动时检测处理器代数、核心、NUMA 节点和加速器,随后应用基于 vLLM、支持 BF16 的预验证配置,以自动完成推理参数配置。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. IT之家
    英特尔推出 Intel Inference Microservices,支持至强处理器自动配置 vLLM 推理参数

    英特尔推出 Intel Inference Microservices,用容器化微服务在第四代、第五代和第六代至强处理器上提供经调优的大语言模型推理能力。每个容器通过 OpenAI 兼容 API 暴露单个模型,启动时检测处理器代数、核心、NUMA 节点和加速器,并应用基于 vLLM、支持 BF16 的预验证配置。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。