MediaTek hari Rabu lalu di Taiwan mengumumkan kerja samanya dengan Meta perihal Llama 2. Dengan kerja sama ini, MediaTek berkolaborasi secara erat dengan Llama 2 dari Meta untuk menghadirkan AI generatif di perangkat. AI generatif yang sekarang sedang populer, pemrosesan AI-nya kebanyakan dilakukan di cloud. Melalui kerja sama dengan Meta, MediaTek berharap pemoresan AI dari AI generatif juga akan bisa dilakukan di perangkat seperti smartphone dan perangkat smart home. Aplikasi AI generatif akan bisa langsung berjalan di perangkat-perangkat itu tanpa harus terkoneksi ke cloud/internet.
Dengan kerja sama MediaTek dan Meta perihal Llama 2, MediaTek bertujuan untuk membangun suatu ekosistem edge computing yang dirancang untuk mendorong pengembangan aplikasi-aplikasi AI di smartphone, perangkat IoT (internet of things), kendaraan, perangkat smart home, dan perangkat edge lainnya. Selain tak wajib terkoneksi ke internet, menjalankan aplikasi AI generatif secara langsung di perangkat dapat memberikan beberapa kelebihan, seperti kinerja yang lebih mulus, privasi yang lebih terjaga, cyber security dan keandalan yang lebih baik, latensi lebih rendah, dan biaya operasi yang lebih rendah.
“Meningkatnya popularitas AI generatif merupakan tren signifikan dalam transformasi digital, dan visi kami adalah menyediakan komunitas pengembang dan pengguna Llama 2 dengan alat yang diperlukan untuk berinovasi sepenuhnya di ruang AI,” ucap JC Hsu (Corporate Senior Vice President and General Manager of Wireless Communications Business Unit di MediaTek). “Melalui kemitraan kami dengan Meta, kami dapat menghadirkan perangkat keras dan perangkat lunak dengan kemampuan yang jauh lebih canggih dibandingkan sebelumnya.”
MediaTek sejauh ini telah melengkapi SoC untuk smartphone 5G masa kininya dengan APU (AI Processing Unit) yang dapat menjalankan berbagai fitur AI generatif seperti AI Noise Reduction, AI Super Resolution, dan AI MEMC. Namun, ke depannya MediaTek akan melengkapi SoC flagship generasi berikutnya yang ditawarkannya dengan suatu software stack yang dioptimalkan untuk menjalankan Llama 2. Tak hanya itu, SoC mendatang yang ditargetkan dikenalkan tahun 2023 ini juga dilengkapi APU yang telah ditingkatkan dengan akselerasi Transformer backbone serta akses footprint dan bandwidth DRAM yang lebih sedikit.
MediaTek meyakini peningkatan-peningkatan yang akan hadir pada SoC flagship generasi berikutnya tersebut akan mempercepat pengembangan model-model penggunaan untuk AI generatif yang berjalan langsung di perangkat. Aplikasi-aplikasi berbasis Llama 2 untuk smartphone dengan SoC flagship generasi berikutnya dari MediaTek diharapkan akan mulai hadir pada akhir tahun ini.