Chip M5 Bisa Jalankan AI Berat Tanpa Server

Reporter: Redaksi |

Editor: Syaiful Mahrum |

Minggu , 23 Nov 2025 - 20:30

Apple pamer performa chip M5 yang punya kemampuan efisiensi hingga 20 persen dibanding chip M4. -FOTO 9TO5MAC -

chip m5 bisa jalankan ai berat tanpa server                            bandarlampung - memproses model bahasa besar (llm) secara langsung di perangkat bukan lagi sekadar mimpi. apple lewat chip m5-nya akan mengukir realitas baru.
 
melalui posting di blog riset pembelajaran mesin apple, chip terbaru itu menunjukkan peningkatan signifikan dibanding pendahulunya, apple m4. terutama saat menjalankan framework terbuka mlx untuk inferensi lokal model ai.
 
beberapa tahun lalu, apple memperkenalkan mlx sebagai array framework (struktur data) untuk pembelajaran mesin yang efisien dan fleksibel pada apple silicon.
 
kini melalui mlx lm sebuah model array khusus untuk generasi teks dan model bahasa, pengguna dapat mengunduh beragam model dari platform luar. seperti hugging face. lalu menjalankannya langsung di mac berbasis apple silicon tanpa bergantung ke server eksternal.
 
dalam pengujian resmi yang diumumkan apple, m5 menunjukkan pengurangan waktu hingga token pertama yang mencolok. misalnya, untuk model qwen 1.7b ataupun qwen 8b, serta model kuantisasi 4-bit seperti qwen 14b dan qwen 30b moe.
 
penggunaan chip m5 lewat mlx mampu mempersingkat waktu generasi awal hingga di bawah 10 detik. bahkan kurang dari 3 detik untuk beberapa konfigurasi moe.
 
peningkatan itu terutama ditopang oleh akselerator neural gpu yang didesain khusus untuk operasi matriks berat. serta memori bandwidth yang nilainya melonjak dari 120 gb/s di m4 menjadi 153 gb/s di m5.
 
 
tak hanya performa, mlx juga memanfaatkan arsitektur memori terpadu apple silicon. itu memungkinkan operasi terhadap cpu dan gpu tanpa perpindahan data yang signifikan. itulah titik yang menunjukkan bahwa peningkatan itu membuka jalan baru bagi kreativitas dan produktivitas di perangkat langsung.
 
bagi pengembang yang membangun aplikasi ai di mac, mereka bisa melakukan inferensi dan penyesuaian model secara lokal. tentunya berimbas pada efisiensi waktu pengerjaan yang semakin singkat.
 
meski begitu, hasilnya menunjukkan bahwa percepatan itu hanya di awal saja. sementara kecepatan generasi token berikutnya masih dibatasi oleh memori bandwidth.
 
apalagi dengan model besar dan konteks prompt panjang, bottleneck (penurunan kinerja) yang bisa berpindah dari compute ke memori. pun, memberatkan performa dari cpu perangkat.
 
kesimpulannya, apple lewat m5 dan framework mlx mempertegas posisinya dalam era baru pengolahan ai di perangkat. ai berat pun kini bisa berjalan di laptop atau tablet. 
 
bagi pengguna mac dan kreator konten, itu dapat menjadi tanda. sebuah masa depan pemrosesan ai sekarang ada di perangkat milik kita. (harian disway)

Tag

Share

Koran Edisi Terbaru

Baca Koran Radar Lampung 24 November 2025

Berita Terkini

Berita Terpopuler

Berita Pilihan