Saya memberikan tugas LLM lokal yang sama pada PC gaming dan ponsel saya, dan hanya satu yang masih dalam rotasi harian saya

Setelah menjalankan LLM lokal di desktop selama berbulan-bulan, saya akhirnya mulai mencobanya di ponsel saya juga, dan ternyata kegunaannya lebih dari yang saya harapkan.

Saya telah membandingkan model dan pelari untuk tugas yang sama sebelumnya, namun saya tidak pernah benar-benar menempatkan ponsel saya secara langsung dengan PC gaming saya, terutama karena ini bukanlah pertarungan yang adil.

Namun seperti setiap alat yang saya coba, selalu ada sesuatu yang mengejutkan saya.

Perintah yang sama pada kedua penyiapan dalam satu atau dua minggu, hanya untuk melihat apa yang terjadi dalam praktik.

Ini melibatkan merangkum dokumen penelitian serta mengerjakan tangkapan layar desain saya.

Namun tugas itu sendiri bukanlah prioritas saya; begitulah cara LLM lokal saya di ponsel dan komputer saya menanganinya.

Pertama, saya default ke pelanggan tetap saya untuk ini.

Ini berarti Qwen 3.5 9B dan Gemma 4 E4B di LM Studio di PC saya (RTX 3070), dan Qwen 3.5 4B dan Gemma E2B di PocketPal di ponsel (iPhone 16).

LM Studio menerima berbagai format dokumen dan memiliki sistem RAG yang kuat.

PocketPal, sebaliknya, tidak menerima pengunggahan dokumen sama sekali.

Tombol lampiran hanya membuka galeri gambar Anda, dan tidak ada pemilih dokumen apa pun.

Saya berasumsi saya melewatkan sesuatu di pengaturan.

Namun proyek GitHub sebenarnya memiliki permintaan fitur terbuka untuk lampiran dokumen yang masih belum tersentuh, jadi belum ada.

Sumber: https://www.xda-developers.com/gave-same-local-llm-tasks-to-gaming-pc-and-phone-only-one-is-still-in-daily-rotation/