Perkembangan kecerdasan buatan (AI) semakin pesat, dan salah satu yang banyak digunakan saat ini adalah model bahasa besar (LLM). Salah satu model yang tengah mendapat perhatian adalah DeepSeek, yang dapat dijalankan secara lokal di perangkat pengguna. Sejumlah antarmuka grafis (GUI) telah tersedia untuk mempermudah penggunaannya, salah satunya adalah Ollama.
DeepSeek menawarkan beberapa varian model, termasuk versi yang telah disuling (distilled) agar lebih ringan. Model aslinya berukuran sekitar 400GB, sehingga kurang praktis untuk dijalankan di laptop pribadi. Sebagai alternatif, tersedia model yang lebih kecil dengan ukuran berkisar antara 4.7GB hingga 9GB, yang lebih ramah bagi perangkat dengan keterbatasan daya komputasi.
Untuk menjalankannya, pengguna dapat mengunduh dan menginstal perangkat lunak melalui terminal. Salah satu GUI yang banyak direkomendasikan adalah LM Studio, yang memiliki tampilan lebih intuitif dibandingkan dengan antarmuka berbasis chat lainnya. LM Studio memungkinkan pengguna memilih berbagai model AI, mulai dari Llama 3.2 yang berukuran 2GB hingga model yang lebih besar seperti 70B dengan ukuran sekitar 37GB.
Keunggulan utama AI lokal seperti DeepSeek adalah kemampuannya untuk beroperasi tanpa memerlukan koneksi internet. Hal ini berbeda dengan ChatGPT, yang membutuhkan akses ke server di luar negeri. Namun, ada tantangan tersendiri dalam penggunaannya, seperti beban pemrosesan yang lebih tinggi pada CPU dan GPU, yang dapat membuat perangkat lebih panas dan proses lebih lambat dibandingkan AI berbasis cloud.
Fitur unggulan lain yang ditawarkan adalah kemampuan membaca dokumen, termasuk file Word. Berbeda dengan ChatGPT yang membatasi fitur unggah dokumen pada versi berlangganan, AI lokal memungkinkan pengguna mengakses fitur ini secara gratis. Meski demikian, pemrosesan dokumen pada AI lokal membutuhkan waktu lebih lama dibandingkan layanan berbasis cloud.
Dengan semakin banyaknya pilihan model AI lokal, pengguna kini memiliki alternatif untuk mengakses teknologi AI tanpa ketergantungan pada layanan berbayar. Meskipun prosesnya tidak secepat layanan berbasis cloud, kebebasan dan fleksibilitas yang ditawarkan menjadi nilai tambah tersendiri bagi pengguna yang mengutamakan privasi dan akses tanpa batasan kuota.
Rahmadya Trias Handayanto 