OpenAI和博通联合发布了一款名为Jalapeño的定制AI芯片,专为大语言模型推理设计,旨在提升AI系统的性能、效率和扩展能力。

关键要点

  • Jalapeño芯片由OpenAI与博通合作研发,针对大语言模型推理场景进行深度优化。
  • 该芯片旨在提升AI系统的推理性能、能效比及大规模部署的可扩展性。

此举标志着OpenAI从依赖通用GPU向自研推理芯片迈进,有望降低其运营成本并加速AI应用的商业落地,同时强化博通在AI芯片定制领域的领先地位。

原文:OpenAI Blog