softlynotes

AI dapat dimainkan seperti ini! Gunakan aigo P5 untuk membawa DeepSeek bersama Anda. DeepSeek telah menjadi populer di seluruh dunia karena penalaran logisnya yang kompleks, pembuatan konten yang kreatif, dan kemampuan integrasi pengetahuan lintas domain. Namun, antusiasme netizen di seluruh dunia telah menyebabkan masalah bagi server DeepSeek. Seringnya "server sibuk" telah menyebabkan banyak pengguna pusing. Sebenarnya, solusinya sederhana dan efisien, yaitu dengan menggunakan DeepSeek secara lokal. Bahkan jika Internet terputus, Anda tetap dapat menikmati kemudahan yang dibawa oleh DeepSeek. DeepSeek secara inovatif mengadopsi arsitektur gabungan para ahli (MoE), yang meningkatkan akurasi model sambil mempertahankan kecepatan respons dan dapat diterapkan secara fleksibel di cloud, perangkat edge, dan terminal seluler. Menerapkan DeepSeek secara lokal di perangkat komputer tidak hanya memastikan privasi dan keamanan data Anda, tetapi juga memungkinkan Anda menikmati kenyamanan DeepSeek kapan saja dan di mana saja.

Deepseek adalah alat pencarian dan eksplorasi mendalam yang kompleks yang mungkin memerlukan sumber daya komputasi dan ruang penyimpanan tertentu untuk mendukung operasinya. Berikut ini beberapa persyaratan konfigurasi yang direkomendasikan:

Prosesor: CPU yang kuat dapat mempercepat pemrosesan dan pencarian data. Sebaiknya pilih prosesor multi-core untuk menangani tugas paralel dengan lebih baik.

Memori: Memori yang cukup (RAM) sangat penting untuk menjalankan set data besar dan algoritma pencarian yang kompleks. Sebaiknya gunakan memori minimal 8 GB. Jika memungkinkan, 16 GB atau lebih akan memberikan kinerja yang lebih baik.

Kartu grafis: Untuk tugas yang melibatkan pemrosesan grafis atau pembelajaran mendalam, kartu grafis (GPU) berkinerja tinggi dapat mempercepat perhitungan secara signifikan. Jika Anda berencana untuk melatih atau menyimpulkan model pembelajaran mendalam, disarankan untuk memilih kartu grafis yang mendukung CUDA atau OpenCL.

Ruang penyimpanan: Model DeepSeek-r1 saat ini berkisar ukurannya dari 1,1 GB hingga 404 GB. Oleh karena itu, Deepseek mungkin memerlukan sejumlah besar ruang penyimpanan untuk menyimpan kumpulan data, berkas model, dan berkas terkait lainnya. Namun, ruang penyimpanan lokal sangat berharga, jadi kita dapat memilih untuk menyimpan model DeepSeek pada perangkat seluler, yang tidak hanya hemat biaya tetapi juga lebih mudah digunakan.

Artikel ini menggunakan hard drive solid-state seluler P5 yang baru diluncurkan aigo sebagai demonstrasi. Misalnya, melalui hard drive seluler aigoP5, hard drive seluler ini memiliki kapasitas 1TB dan kecepatan baca dan tulis 2000MB/s. Pada dasarnya, hard drive ini sama dengan hard drive solid-state lokal saat digunakan di komputer. Ada banyak manfaat mengunduh model ke hard drive eksternal aigoP5.

Jika Anda memiliki beberapa komputer, Anda dapat berbagi model di hard drive aigoP5 tanpa harus mengunduh model DeepSeek ke setiap komputer.

Anda dapat mengunduh beberapa model DeepSeek ke hard drive aigoP5 dan membawanya bersama Anda. Dengan cara ini, Anda dapat memilih model dengan parameter berbeda sesuai dengan komputer dengan konfigurasi berbeda, tanpa harus mengunduh model sementara untuk kebutuhan sementara.

Jika Anda mengalami gangguan jaringan, model-model dalam hard disk aigoP5 akan berguna. Cukup sambungkan ke hard disk aigoP5 dan muat model yang Anda inginkan.
Disarankan untuk menggunakan hard disk aigoP5 untuk mengunduh dan menyimpan model DeepSeek-r1 berikut, yang pada dasarnya dapat memenuhi kebutuhan sebagian besar pengguna.

Selanjutnya, kami akan mencoba mengunduh model DeepSeek ke hard disk aigoP5. Pertama, buat partisi kerja independen di hard disk seluler dan gunakan sistem file exFAT untuk memastikan kompatibilitas lintas-platform. aigoP5 sudah disetel ke exFAT saat meninggalkan pabrik, jadi langkah ini dapat diabaikan. Langkah selanjutnya adalah menginstal alat untuk menjalankan model bahasa besar. Karena akan digunakan pada solid-state drive seluler, sebaiknya gunakan LMStudio, alat klien yang dirancang untuk menjalankan model bahasa besar secara lokal. Setelah mengunduh paket instalasi dari situs web resmi lmstudio.ai, pilih huruf drive aigop5 untuk menginstalnya pada solid-state drive seluler. Setelah instalasi selesai, buka klien LMStudio, pertama klik Pengaturan di sudut kanan bawah, atur bahasa aplikasi ke Cina Sederhana di Bahasa, lalu centang kotak Wajah Memeluk LMStudio di Umum, dan pengaturan lainnya termasuk tema perangkat lunak, pengaturan aplikasi, dan preferensi juga dapat ditetapkan bersama.

Sebelum memuat model, mari kita perkenalkan secara singkat skala parameter yang berbeda. B adalah singkatan dari Miliar. Semakin tinggi nilainya, semakin kuat kemampuan pembangkitan model, tetapi semakin tinggi kinerja sistem yang dibutuhkan, dan semakin lambat kecepatan pembangkitan. Jadi model mana yang sebaiknya kita pilih? Kita perlu melihat pertanyaan ini dari dua aspek. Pertama, model DeepSeek-R1 bergantung pada skenario aplikasi dan konfigurasi perangkat keras Anda. Jika Anda hanya melakukan pemrosesan teks sederhana, pembelajaran, atau proyek kecil, 1,5 miliar dan 7 miliar mungkin sudah cukup. Jika kebutuhan Anda adalah menghasilkan teks berkualitas tinggi, atau melakukan pemrosesan data berskala besar, model 14B dan yang lebih tinggi mungkin lebih cocok. Untuk penelitian ilmiah atau aplikasi tingkat perusahaan, model 32B, 70B dan bahkan 671B dapat memberikan kinerja dan daya pemrosesan yang sangat tinggi.

Kedua, bangun komputer Anda sendiri berdasarkan konfigurasi PC Anda saat ini atau berapa banyak uang yang Anda mampu. Misalnya, versi lengkap berkinerja tinggi (671B) memiliki kinerja yang kuat dan memerlukan setidaknya memori video 700G (kuantisasi Int8), yang cocok untuk penerapan server profesional. Versi sulingan lebih cocok untuk penggunaan lokal oleh pengguna biasa. Versi ini disempurnakan berdasarkan model sumber terbuka (seperti QWEN dan LLAMA), dengan jumlah parameter berkisar antara 1,5 miliar hingga 70 miliar dan persyaratan perangkat keras yang lebih rendah.

Berikut ini adalah perangkat keras yang cocok dengan versi DeepSeek-R1 versi murni dan sulingan: Berikutnya, kami melanjutkan penerapan DeepSeek-R1. Di sini LMstudio menyediakan dua cara: mencari dan mengunduh serta memuat model lokal. Pertama-tama kita dapat mengunduh model yang sesuai dengan kebutuhan kita ke komputer lokal, lalu menyalinnya ke aigoP5.

Kemudian, di LMStudio, klik ikon folder di sudut kiri atas, pilih lokasi (aigoP5) tempat model ditempatkan di direktori model, perangkat lunak akan mengenali model lokal, lalu klik ikon dialog di sudut kiri atas, pilih model yang akan dimuat, dan Anda dapat mengatur panjang konteks, memilih beban GPU sesuai dengan perangkat keras, dll. Setelah pemuatan selesai, Anda dapat mulai menggunakannya. Dari pengalaman penggunaan yang sebenarnya, sangat mudah untuk menggunakan DeepSeek-Ri pada solid-state drive seluler. Kecepatan pembuatan model 8B menggunakan platform kartu grafis RTX2060 adalah sekitar 5 kata/detik, dan kecepatan pembuatan model 32B menggunakan platform kartu grafis RTX5080 adalah sekitar 6 kata/detik. Pengalaman menggunakan solid-state drive seluler aigoP5 dengan DeepSeek sangat luar biasa. Baik itu inspirasi tiba-tiba di kedai kopi atau pelepasan energi dalam kreasi mendalam, DeepSeek tidak lagi dibatasi oleh jaringan atau terperangkap dalam perangkat tetap. Daya tarik magnetis dan portabilitas ringkas solid-state drive seluler P5 juga memberikan kemudahan untuk berbagai skenario, dan juga menunjukkan tren penting bentuk komputasi masa depan yang berevolusi menuju portabilitas tinggi - kecerdasan sejati seharusnya dapat dicapai.