Copilot+ PC saat ini menjadi salah satu idaman banyak pengguna dan penggemar Windows karena kemampuannya yang sangat baik dalam menjalankan berbagai tugas AI, selain itu perangkat ini mendapatkan hak ekslusif untuk bisa menggunakan berbagai fitur di Windows 11 termasuk Recall dan banyak fitur AI lainnya.
Nah secara umum, Copilot+ ini dilengkapi dengan Phi-Silica, SLM (small language model) pada perangkat untuk menghadirkan kemampuan Machine Learning ke aplikasi pihak pertama milik Microsoft dan aplikasi dari pengembang pihak ketiga lainnya.
Namun ada satu kejutan kecil dari Microsoft, dimana pada hari ini, mereka memperkenalkan “Mu” sebuah slm baru pada perangkat yang dibangun kedalam Windows 11. Tujuan dari Microsoft tentu adalah untuk menciptakan agent bertenaga AI dalam aplikasi settings yang dapat memahami query bahasa alami manusia dan mengintegrasikannya kedalam kotak pencarian yang ada agar pengalaman pengguna bisa menjadi lebih lancar.
Oleh karena hal tersebut, Microsoft menggunakan model Mu baru ini untuk mendukung fitur agent baru di aplikasi Settings, yang baru-baru ini tersedia untuk pada pengguna Windows Insider di Dev Channel dengan perangkat PC Copilot+.
Apa bedanya dengan Phi-Silica?, secara umum, kurang lebih sama saja, namun Mu dirancang untuk beroperasi secara efisien pada NPU, dengan mengirimkan lebih dari 100 token per detik saat berjalan secara lokal.
Nah secara umum, menurut penjelasan Microsoft Mu adalah model bahasa encoder–decoder berukuran 330 juta parameter yang dioptimalkan untuk tugas-tugas spesifik, misalnya untuk mengelola pengaturan sistem. Dengan arsitektur ini, Mu mampu memisahkan proses input dan output, sehingga dapat mengurangi beban komputasi dan mempercepat waktu respons., bahkan menurut klaim Microsoft Mu dapat merespons lebih dari 100 token per detik.
Tapi selain itu ada satu fakta unik nih, dimana Mu merupakan hasil dari distilasi dari keluarga model Phi milik Microsoft yang sebelumnya telah digunakan untuk eksperimen AI di Windows. Namun dengan pendekatan LoRA atau Low rank adaptation dan pelatihan menggunakan GPU NVIDIA A100 di Azure, “Mu” ini berhasil mempertahankan akurasi tinggi meskipun kabarnya ukurannya jauh lebih kecil dari Phi. Gila bukan?, jelas ini menunjukan arah baru dalam pengembangan AI yang lebih cepat dan ringan di Windows 11.
Ketika nanti sudah siap dan tersedia, “Mu” ini tentu akan hadir dan ekslusif untuk para pengguna Copilot+, jadi jika kamu masih menggunakan perangkat x64, sayangnya mungkin kita tidak akan kebagian fitur ini.
Via : Microsoft
