Ketika Xiaomi Bikin Mini PC AI Sendiri

Sejak popularitas AI (dalam hal ini LLM), muncul kategori baru di ranah mini PC yaitu mini PC AI untuk menjalankan AI model open weight secara lokal. Selain Apple yang kejatuhan durian runtuh karena Mac Studio tiba-tiba menjadi idola untuk menjalankan AI lokal, beberapa mini PC juga berusaha masuk ke PC kategori baru ini, misalnya saja NVIDIA dengan DGX Spark nya atau AMD dengan Ryzen AI Halo nya.

Tapi siapa sangka Xiaomi ternyata juga gak mau ketinggalan. Beberapa waktu lalu mereka memperkenalkan Xiaomi AI Cube, Mini PC yang bisa menjalankan AI lokal sampai 120B parameter. Ini AI model yang terbilang besar untuk dijalankan secara lokal. Nah yang mengejutkan ada di chip prosesornya, dimana Xiaomi ternyata tidak menggunakan chip buatan NVIDIA, Intel, AMD, atau produsen chip prosesor populer lainnya — tetapi memilih untuk menggunakan tiga chip buatan Xiaomi sendiri, yaitu XRING O3 yang merupakan chipset Xiaomi untuk smartphone, XRING O100 sebagai AI accelerator, dan XRING D100 yang sebenarnya malah chipset Xiaomi untuk mobil.

Terdengar aneh memang, menggabungkan chipset untuk smartphone, mobil, dan AI accelerator menjadi satu mini PC AI, untuk melawan mini PC AI dari NVIDIA, AMD, dan juga Apple. Apakah Xiaomi sedang bercanda?

Ternyata tidak.

Diperkenalkan akhir bulan lalu, Xiaomi AI Cube menjadi prototype mini-PC AI untuk melawan NVIDIA DGX SPARK dkk yang harganya memang sangat mahal.

Seperti Apa Xiaomi AI Cube?

Sebenarnya desainnya masih mirip kayak desktop mini PC pada umumnya. Hanya saja Xiaomi AI Cube ini terlihat lebih besar dan lebih tinggi. Body nya metal unibody yang kalo diliat terlihat seperti dua tingkat dengan desain garis-garis yang punya banyak sekali lubang ventilasi di bawah, sedangkan di atas smooth metal body dengan garis lampu menyala sebagai pemanis di tengah2nya. Di atas pun juga ada banyak lubang ventilasinya, yang menunjukkan bagiamana pembuangan panas terlihat sangat dimaksimalkan di mini PC ini.

Spesifikasi

Nah yang gak biasa memang dari racikan chip nya, karena Xiaomi menggabungkan 3 chipset dengan peruntukan yang berbeda kedalam satu mini PC.

Chipset utamanya XRing O3 merupakan chipset Xiaomi untuk smartphone. Chipset ini punya 10 core prosesor, 16 core GPU, dengan 200 Tops NPU di fabrikasi 3nm. Ini chipset yang sudah diproduksi massal oleh Xiaomi saat ini dan bakal menjadi chipset Xiaomi 18 Fold dan Xiaomi Pad 9 Pro Max yang dirilis bulan September ini. Ini chipset pertama yang support native LPDDR6 memory dengan bandwidth 113.8 GB/s — yang score test antutu nya tembus 5.2 juta lebih.

Chip keduanya XRing O100 yang merupakan AI accelerator dengan DRAM yang langsung tertanam. Fabrikasinya 6nm memang, tapi punya bandwith yang tembus sampai 1.22TB/s. Sayangnya meskipun kencang, besarnya kapasitas memory yang dimiliki AI accelerator ini belum diungkap oleh Xiaomi.

Lalu chip ketiga adalah XRing D100 yang sebenarnya merupakan chipset untuk smart driving car Xiaomi dengan 20 core CPU dan 16 core NPU. Nah yang membuat chip ini cocok untuk menjadi chip AI mini PC adalah kapasitas memory pool nya yang support sampai 160GB — meskipun di prototype Xiaomi AI Cube kali ini, diisi dengan 80GB unified memory . Sayangnya kecepatan bandwidth nya belum diungkap oleh Xiaomi.

3 chip berbeda ini dikolaborasikan untuk menjalankan 2 AI model. Pertama AI model kecil dengan 3B parameter dan yang kedua AI model besar dengan 120B parameter. Dua model ini bisa di switch sesuai keperluan dan peruntukannya, dan mestinya AI model default yang dijalankan di mini PC ini adalah Xiaomi Mimo, AI model yang memang dibuat sendiri juga oleh Xiaomi.

Besarnya power yang dibutuhkan oleh Xiaomi AI Cube ini stabil di 150W — bisa lebih hemat daya dari NVIDIA DGX Spark yang daya puncaknya sampai 240W — tapi masih lebih boros dari AMD Ryzen AI Halo yang cuman butuh sekitar 120W aja.

Performa

Setelah diperkenalkan, Xiaomi AI Cube ini langsung viral karena punya spesifikasi dan performa yang terlihat mentereng dengan bandwidth 1.22 TB/s, bisa menjalankan AI model besar 120B parameter, dengan token generation speed sampai 330 tokens/s. Publik langsung memprediksi kalo ini bakal menjadi NVIDIA DGX Spark killer.

Tetapi sebenarnya performa yang banyak viral ini bukan gambaran performa secara utuh, karena terlihat diambil sepotong2 dari performa yang paling bagus di masing2 chipset.

Misalnya, benar memang kecepatan bandwidth mini PC ini 1.22 TB/s — tapi ini kecepatan bandwidth Xring O100 nya saja yang menjadi AI acceleratornya. AI model besar 120B parameternya sendiri gak bakal berjalan di chip ini karena kapasitas memory nya yang sangat terbatas. AI model besarnya bakal berjalan di chipset D100 yang kecepatan bandwidth nya masih belum diungkap oleh Xiaomi. Pastinya bakal lebih rendah dari 1.22 TB/s ini.

Lalu bisa menjalankan AI model 120B ini juga benar, karena dengan memory pool up to 160GB di chip D100, bisa muat untuk menjalankan AI lokal dengan 120B parameter — bahkan 200B parameter juga masih bisa. Tapi kecepatannya tidak akan sekencang 330 token/s, karena yang di test Xiaomi dengan hasil 330 token per second ini adalah AI model kecil 3B parameter yang kemungkinan berjalan sepenuhnya di AI Accelerator O100 nya — bukan AI model besar 120B parameter yang berjalan di chip D100 nya. Jadi bakal ada perbedaan kecepatan tergantung AI model yang dijalankan, berapa besar parameternya, dan di memory mana AI model ini berjalan.

Lalu apakah Xiaomi AI Cube ini bisa menjadi NVIDIA DGX Spark Killer atau bahkan Mac Studio killer untuk menjalankan local AI?

Xiaomi vs Everybody

Untuk bisa mengetahui apakah Xiaomi AI Cube bisa menjadi AI mini PC killer, tentu kita perlu tahu dulu detail spesifikasi lengkap — yang mana ini masih belum dibuka semua oleh Xiaomi. Ya wajar sebenarnya karena memang statusnya masih prototipe, tapi kalo kita bandingkan dengan lawan-lawannya, dari data yang sudah ada, speed bandwidth Xring O100 memang terlihat lebih kencang dari mini PC lainnya dengan 1220 GB/s. Tetapi ini cuman speed di chip accelatornya ya alias baru valid kalo buat menjalankan AI model kecil seperti MiMo 3B parameter tadi.

Untuk AI model besar yang dijalankan di XRing D100, belum bisa kita bandingkan karena kecepatan bandwidth nya belum diungkap juga oleh Xiaomi. Bisa jadi gak jauh-jauh dari NVIDIA DGX Spark, karena di banyak mini PC AI saat menjalankan big model, bottleneck memang ada di bandwith memory tempat big model itu berjalan — yang di Xiaomi AI Cube ini ya bandwith memory di XRing D100.

Kapasitas memory nya secara support pool memory lebih unggul Xiaomi AI Cube dengan up to 160GB sedangkan NVIDIA DGX SPark dan Ryzen AI Halo di 128GB. Tetapi di prototype masih terisi 80GB unified memory saja. Jadi sebenarnya dari besar memory, prototipe Xiaomi AI Cube ini tidak lebih unggul dari dua kompetitornya.

Untuk penggunaan daya dia ada di tengah-tengah, lebih hemat listrik dari DGX Spark tapi masih lebih boros dari AMD Ryzen AI Halo.

Dan untuk harga ini belum tahu, mestinya ya bakal lebih murah dari DGX Spark yang harganya paling mahal diantara banyak AI Mini PC lainnya.

Jadi intinya masih terlalu dini menyebut Xiaomi AI Cube ini adalah DGX Spark Killer atau AI Mini PC killer untuk saat ini. Tetapi tetap aja ini hal yang sangat bagus untuk market AI mini PC karena dengan semakin banyaknya pemain, akan ada semakin banyak inovasi, semakin banyak produk, dan akhirnya bisa saling perang harga dengan banyaknya pilihan — terlebih kalo produk ini dari China, yang terkenal jago soal bersaing harga.

Kapan Rilis

Belum ada tanggal pasti kapan Xiaomi AI Cube ini bakal rilis. Tetapi kalaupun dirilis kemungkinan baru di 2027. Kita masih perlu menunggu kabar kapan produksi massal dari chipset XRing O100 dan D100 dulu, karena ya dari 3 chip di mini PC ini, yang sudah diproduksi massal baru satu yaitu Xring O3. Itupun juga untuk lini baru smartphone Xiaomi.

Ya semoga aja Xiaomi AI Cube ini bukan sekedar prototipe untuk marketing dan nge-buzz smartphone baru Xiaomi yang pake Xring O3 aja..tapi benar-benar bakal dijadikan produk AI mini PC yang bersaing secara harga di pasaran.

Hype nya sendiri tidak berlangsung lama, karena baru sehari setelah pengumuman Xiaomi AI Cube, Apple langsung merilis Mac Studio M5 Ultra yang bahkan sudah bisa dibeli oleh pengguna. Meskipun tidak dirilis khusus untuk AI PC, Mac Studio ini diam-diam memang jadi idola untuk menjalankan AI model besar secara lokal.

Bagaimana menurut temen2. Adakah kesempatan bagi Xiaomi untuk menang di persaingan AI Mini PC yang untuk saat ini pemainnya masih sangat terbatas tetapi didominasi brand-brand besar yang punya chip sendiri seperti NVIDIA, AMD, dan Apple?

Bagikan pendapat teman2 di kolom komentar.