OpenAI和博通推出名为Jalapeño的定制AI芯片，专为大型语言模型推理优化，旨在提升AI系统的性能、效率和可扩展性。

关键要点

  • Jalapeño是OpenAI与博通合作开发的定制芯片，聚焦LLM推理工作负载。
  • 该芯片旨在改善AI系统的性能、能效和规模化部署能力。

此举标志着OpenAI从依赖通用GPU向自研推理芯片迈出关键一步，有望降低长期运营成本并增强模型部署的自主性。

原文：OpenAI Blog