Posted in

Microsoft Maia 300 Resmi Meluncur: Chip AI 288 GB HBM4 dan Klaim 7 Kali Lipat per Rack

Chip AI Microsoft Maia 300 generasi ketiga untuk inferensi Azure
Ilustrasi Azure Maia 300. Sumber: Microsoft Official Blog

Microsoft resmi membuka kartu barunya di bisnis chip AI. Pada 12 Oktober 2026, perusahaan meluncurkan Maia 300, akselerator generasi ketiga yang dirancang khusus buat menjalankan model AI alias inference, bukan buat latihan model. Chip ini jadi langkah paling serius Microsoft buat mengurangi ketergantungan pada GPU NVIDIA sekaligus menekan biaya listrik data center yang makin bengkak.

Pengumuman itu disampaikan langsung oleh Scott Guthrie lewat blog resmi Microsoft. Pesannya jelas: Maia 300 bakal jadi sistem inference utama buat produk dan layanan Microsoft, dan produksinya mulai jalan pada 2027. Bukan cuma satu chip, tapi satu sistem utuh yang mencakup akselerator, jaringan, pendingin, dan software.

Spesifikasi Maia 300: 288 GB HBM4 dan 18 TB/s

Dari sisi angka, Maia 300 terbilang gila. Ada delapan tumpukan HBM4 dengan total kapasitas 288 GB dan bandwidth puncak 18,0 TB/s, semuanya ditaruh dalam TDP 950 watt. Angka bandwidth itu yang paling menarik, karena workload AI modern makin berat di memori. Model dengan konteks panjang butuh jalan data yang lebar, bukan cuma core yang banyak.

Arsitekturnya pakai desain chiplet. Microsoft memisahkan unit komputasi dari pengontrol memori dan I/O, lalu mencetak chiplet komputasinya di proses N2P milik TSMC. N2P ini kelas 2 nanometer, jadi Microsoft langsung main di teknologi paling depan yang tersedia saat ini.

Ada juga dukungan format presisi rendah yang diperkuat, termasuk MXFP4 versi enhanced. Efeknya, kebutuhan memori dan bandwidth buat komputasi maupun penyimpanan KV-cache turun. Hasilnya, model bisa jalan dengan konteks lebih panjang di daya yang sama.

Klaim 40 Persen Lebih Efisien dan 7 Kali Lipat per Rack

Dua klaim utama Microsoft soal Maia 300 begini. Pertama, chip ini diperkirakan menghasilkan 40 persen lebih banyak token per megawatt dibanding sistem berbasis GPU terdepan. Kedua, dalam konfigurasi penuh 96 akselerator per rack, throughput token-nya sampai tujuh kali lipat dibanding Maia 200.

Catat satu hal: Microsoft tidak mengklaim menang di angka FLOPS mentah. Yang mereka jual adalah efisiensi per watt dan efisiensi per rack. Ini masuk akal, karena masalah terbesar data center AI hari ini bukan lagi “berapa cepat chip ini”, tapi “berapa besar listrik yang harus disiapkan buat menjalankannya”.

Satu rack penuh berisi 96 akselerator dengan konsumsi daya 167 kilowatt. Di dalamnya ada total 27,6 TB memori HBM dan bandwidth agregat 1,7 PB/s dalam satu domain scale-up berkecepatan tinggi. Dengan kepadatan segitu, Microsoft bisa melayani lebih banyak interaksi AI sekaligus dari setiap rack yang mereka pasang.

Prototipe chip AI Microsoft Maia 300 dengan 288 GB HBM4
Prototipe chip Azure Maia 300. Sumber: Microsoft News

Dipakai Buat Apa Saja?

Maia 300 dirancang buat tiga jenis beban kerja yang sedang naik daun. Pertama, reasoning konteks panjang. Kedua, pengalaman percakapan yang sensitif terhadap latensi. Ketiga, tugas agentik multi-langkah yang berjalan lama tanpa putus.

Kalau diterjemahkan ke produk, artinya Copilot, Teams, GitHub Copilot, Dragon Copilot, dan layanan lewat Microsoft Foundry bakal makin cepat sekaligus lebih murah dijalankan. Microsoft bilang Maia 200 yang sekarang sudah produksi pun baru dipakai Copilot, lalu GitHub Copilot dan Foundry menyusul sebelum akhir tahun. Maia 200 sendiri diklaim memberi sampai 1,7 kali lebih banyak token per watt buat fitur AI bawaan yang dipakai ratusan juta orang.

Maia 200 sendiri sudah menjalankan model OpenAI, model MAI buatan Microsoft sendiri, dan keluarga model open source terkemuka. Jadi ekosistem softwarenya sudah terbukti jalan, bukan cuma demo di atas kertas.

Baca juga: CEO Microsoft Serukan Rem Darurat AI: Model Harus Bisa Dimatikan Kapan Saja

Jaringan Jadi Bagian dari Chip

Salah satu bagian teknis yang sering dilewatkan orang adalah soal jaringan. Microsoft tidak memperlakukan networking sebagai lapisan terpisah. Operasi dataflow-nya membentang di komputasi, memori, dan jaringan sebagai satu sistem. Interkoneksi antar akselerator Maia dioptimalkan buat tensor parallelism, sementara transport AI custom mereka memakai infrastruktur Ethernet supaya topologinya bisa naik dari satu rack ke skala data center penuh.

Pendekatan ini penting karena di skala besar, hambatan terbesar bukan lagi chip individual, tapi seberapa lancar ribuan chip bisa ngobrol satu sama lain tanpa bottleneck.

Taruhan Besar Melawan Dominasi NVIDIA

Langkah Microsoft ini jelas soal uang dan kendali. Selama beberapa tahun terakhir, hampir semua perusahaan AI besar bergantung pada GPU NVIDIA yang harganya mahal dan stoknya sering rebutan. Dengan Maia 300, Microsoft bisa memindahkan sebagian besar beban inference ke hardware sendiri.

Menurut laporan industri, Microsoft berencana mengejar skala multi-gigawatt mulai 2027, dengan potensi pengiriman lebih dari satu juta unit dalam setahun. Fokusnya ke layanan AI internal seperti Copilot, bukan menyewakan kapasitas komputasi ke pihak luar. Jadi posisinya beda dari NVIDIA yang menjual ke semua orang.

Maia 300 juga bukan proyek sekali jalan. Microsoft menyebut program Maia sebagai elemen fondasi strategi infrastruktur AI mereka, dengan siklus desain yang melibatkan tim hardware dan software sejak awal. Karena pengembangan silicon butuh bertahun-tahun, tim software diminta mengantisipasi arsitektur dan kebutuhan model yang akan datang, lalu menerjemahkannya jadi kapasitas memori lebih besar, bandwidth lebih tinggi, dan lebih banyak akselerator yang bekerja sebagai satu kesatuan.

Apa Artinya Buat Pengguna Biasa?

Buat kamu yang cuma pakai Copilot atau Teams tiap hari, efek langsungnya mungkin cuma satu: layanan AI-nya jadi lebih responsif dan lebih jarang ngadat saat jam sibuk. Tapi efek jangka panjangnya lebih besar. Kalau biaya menjalankan model AI bisa ditekan, harga langganan AI pun berpotensi ikut lebih masuk akal.

Semua angka Maia 300 saat ini masih klaim Microsoft sendiri. Chipnya baru mulai produksi pada 2027, dan performa asli di lapangan baru bisa dinilai setelah benar-benar jalan. Sampai itu terjadi, klaim “40 persen lebih efisien” dan “7 kali lipat per rack” tetap perlu dibuktikan lewat uji independen.

Yang sudah pasti, persaingan chip AI makin panas. Google punya TPU, Amazon punya Trainium, dan sekarang Microsoft makin agresif dengan Maia. Buat NVIDIA, ini sinyal bahwa pelanggan terbesarnya pelan-pelan belajar membuat sendiri.

Baca juga: Project Suncatcher Google: Chip AI TPU Dikirim ke Orbit Buat Uji Data Center Luar Angkasa

Kesimpulan

Maia 300 adalah taruhan Microsoft bahwa masa depan AI tidak ditentukan oleh siapa punya chip tercepat, tapi siapa yang bisa menjalankan AI paling efisien dengan daya yang tersedia. Dengan 288 GB HBM4, bandwidth 18 TB/s, dan 96 akselerator dalam satu rack 167 kilowatt, Microsoft ingin mengubah cara data center AI dibangun.

Kalau rencananya lancar, 2027 bakal jadi tahun pembuktian. Sampai saat itu, kita cuma bisa mencatat angkanya dan menunggu apakah klaim besarnya benar-benar terwujud di produksi.

Sumber: