OpenAI Pamer Kinerja Chip Jalapeno, Diklaim Lebih Andal dari Milik Nvidia

OpenAI memamerkan chip Jalapeno pada konferensi Hot Chips 25 Agustus 2026. Chip ini diklaim lebih andal dari Nvidia Blackwell berdasarkan benchmark InferenceX dari SemiAnalysis, dengan token per pengguna dan throughput per kilowatt yang lebih tinggi. Richard Ho, Kepala Bagian Perangkat Keras OpenAI, menyatakan Jalapeno dapat menangani beban kerja AI yang lebih banyak per unit daya sambil mempertahankan latensi rendah meski melayani banyak pelanggan.

Dikembangkan bersama Broadcom sejak Oktober 2025, Jalapeno dirancang sebagai platform lintas generasi yang mengintegrasikan model AI, chip, dan memori. Pendekatan full-stack memungkinkan pengoptimalan dari prefill hingga generasi respons, termasuk penyimpanan lokal KV cache untuk mengurangi transmisi data.

OpenAI berencana meluncurkan Jalapeno dalam jumlah terbatas akhir 2026, sebelum produksi massal pada 2027. Proyeksi penggunaan chip ini mencakup integrasi komputasi, memori, dan jaringan yang dioptimalkan untuk setiap tahapan inferensi.