OpenAI Pamer Kinerja Chip Jalapeno, Diklaim Lebih Andal dari Nvidia

OpenAI menyajikan Jalapeno di konferensi Hot Chips pada 25 Agustus 2026, menyajikan hasil benchmark yang menunjukkan token per pengguna serta throughput per kilowatt lebih tinggi dibanding prosesor inferensi terbaik saat ini. Richard Ho, kepala bagian perangkat keras OpenAI, mengklaim Jalapeno mampu menangani lebih banyak beban kerja AI per unit daya serta memangkas waktu respons, dengan latensi tetap rendah meski sistem melayani banyak pelanggan. Kinerja Jalapeno dibandingkan lebih andal dibanding sistem Nvidia Blackwell. Chip ini dikembangkan bersama model AI OpenAI dan kerja sama dengan Broadcom, dirancang sebagai platform lintas generasi yang mengintegrasikan produk AI, model, chip, hingga memori. Pendekatan full-stack membantu mengatasi hambatan teknis pada tahap prefill, meminimalkan transmisi data dan penundaan komunikasi. KV cache disimpan secara lokal, sementara sistem mengaktifkan kombinasi komputasi, memori, dan jaringan secara tepat untuk setiap tahapan inferensi. Jalapeno diproduksi terbatas pada akhir 2026, disebarluaskan pada 2027.