AI Lokal atau AI Cloud Simak Kapan Berpindah
Pertanyaan yang paling sering muncul di komunitas akhir akhir ini bukan lagi "pakai AI atau tidak", melainkan "AI yang mana untuk pekerjaan yang mana". Di satu sisi ada AI lokal seperti Jan AI yang berjalan di laptop sendiri. Di sisi lain ada Claude dan Claude Code yang jauh lebih cerdas tetapi berjalan di cloud. Jawabannya ternyata bukan memilih salah satu, tetapi tahu kapan berpindah.
Kenalan Singkat dengan Dua Pemain
Jan AI adalah aplikasi desktop gratis dan open source (lisensi Apache 2.0) yang menjalankan model bahasa seperti Llama, Gemma, Qwen, atau model buatan Jan sendiri langsung di perangkat Anda. Secara bawaan Jan berjalan offline, sehingga data tidak keluar dari mesin selama koneksi cloud tidak diaktifkan. Yang menarik untuk developer: Jan menyediakan server API lokal di localhost:1337 yang kompatibel dengan format OpenAI, serta mendukung MCP (Model Context Protocol). Sehingga server lokal ini dapat digunakan untuk Visual Studio Codes.
Claude adalah model AI dari Anthropic yang unggul di penalaran panjang, analisis dokumen besar, dan penulisan kode. Sementara Claude Code adalah agen coding yang bekerja di terminal maupun terintegrasi dengan VS Code dan JetBrains. Bedanya dengan chatbot biasa, Claude Code memahami seluruh repositori, bisa menjalankan perintah, membaca hasil tes yang gagal, lalu memperbaikinya sendiri. Fitur seperti CLAUDE.md, hooks, skills, subagent, dan MCP membuatnya bisa disesuaikan dengan standar tim.
Lima Pertanyaan Penentu
Sebelum membuka aplikasi AI apa pun, biasakan menjawab lima pertanyaan ini secara cepat di kepala:
Aturan praktisnya: data rahasia dan tugas sederhana ke lokal, tugas kompleks dengan data aman ke Claude. Untuk kasus di tengah tengah, gunakan pola hybrid yang dibahas di bagian akhir.
Workflow Sehari Hari: Developer
Mari ikuti satu hari kerja Dimas, backend developer .NET di sebuah perusahaan fintech.
08.30 Membaca tiket dan log produksi Jan AI
Tiket pagi ini berisi potongan log yang memuat nomor rekening dan nama nasabah. Data seperti ini tidak boleh dikirim ke layanan luar. Dimas menempelkan log ke Jan dengan model Qwen ukuran menengah untuk merangkum pola error dan sekaligus menyamarkan data.
Hasil yang sudah bersih inilah yang nanti boleh dibawa ke Claude bila analisis lebih dalam diperlukan. Jan AI bekerja baik untuk memformat dan analis data sederhana dan berulang seperti mengonversi format atau menghitung statistik.
09.30 Memperbaiki bug lintas modul Claude Code
Ternyata error berasal dari race condition di layanan antrean yang menyentuh empat proyek dalam satu solution. Ini tugas yang melelahkan bagi model kecil. Dimas membuka terminal di repositori dan menjalankan Claude Code dalam plan mode terlebih dahulu.
Kuncinya ada di poin kedua: minta rencana dulu, baru eksekusi. Developer tetap memegang keputusan, Claude Code mengerjakan bagian yang memakan waktu. Claude Code cocok untuk memperbaiki bugs yang misterius atau yang melibatkan banyak komponen
11.00 Autocomplete dan pertanyaan kecil Jan AI
Untuk pertanyaan ringan seperti format LINQ, regex validasi NIK, atau konversi tanggal, Dimas cukup memakai model coding kecil di Jan (misalnya Jan-Code-4B). Responsnya cepat, tidak butuh internet, dan tidak menghabiskan kuota langganan.
14.00 Review pull request dan dokumentasi Claude Code
Setelah makan siang, Dimas meminta Claude Code meninjau perubahannya sendiri sebelum membuka pull request. Standar tim sudah ditulis di file CLAUDE.md, sehingga review mengikuti aturan yang sama setiap kali.
16.30 Eksperimen fitur AI di aplikasi Jan AI
Tim sedang membangun fitur ringkasan transaksi berbasis LLM. Selama tahap pengembangan, Dimas mengarahkan SDK OpenAI di aplikasinya ke http://localhost:1337/v1. Cukup ganti base URL, kode yang sama bisa diuji berkali kali tanpa biaya. Setelah prompt matang, baru diuji dengan model cloud untuk membandingkan kualitas. Claude cocok untuk pembanding solusi yang membutuhkan performa tinggi atau efisiensi kode.
Workflow Sehari Hari: Tech Engineer dan Analyst
Sekarang ikuti Sari, Tech Engineer yang merangkap analyst sistem di tim platform. Pekerjaannya berputar di infrastruktur, insiden, dan analisis kebutuhan.
08.00 Triage alert malam hari Jan AI
Ada puluhan alert dari sistem monitoring yang memuat hostname internal dan alamat IP. Sari memakai Jan untuk mengelompokkan alert berdasarkan kemungkinan akar masalah.
10.00 Menulis Infrastructure as Code Claude Code
Sari perlu menambahkan staging environment baru di Bicep beserta pipeline Azure DevOps. Pekerjaan ini menyentuh banyak file dan butuh konsistensi. Claude Code dapat membaca modul yang sudah ada, mengikuti pola tim, lalu menjalankan validasi.
13.00 Analisis kebutuhan dari notulen rapat Jan AI Claude
Notulen rapat dengan klien memuat nama orang dan detail kontrak. Langkah pertama di Jan: samarkan identitas dan nilai kontrak. Langkah kedua di Claude: ubah notulen yang sudah bersih menjadi user story dan kriteria penerimaan yang rapi.
15.00 Postmortem insiden Claude
Untuk menyusun laporan postmortem, Sari memerlukan penalaran sebab akibat dan bahasa yang jelas untuk manajemen. Timeline yang sudah disamarkan diberikan ke Claude.
17.00 Bekerja di lokasi klien tanpa internet Jan AI
Saat visit ke data center klien yang tidak mengizinkan koneksi keluar, Jan tetap bisa membantu membaca konfigurasi, menjelaskan perintah, atau menyusun checklist. Inilah nilai utama AI lokal: tetap berfungsi ketika cloud tidak tersedia.
Jan AI cocok untuk melakukan editing, baca konfigurasi, dan juga koneksi terputus
Ringkasan Keputusan
| Situasi | Pilihan | Alasan |
|---|---|---|
| Log, notulen, atau data berisi informasi pribadi | Jan AI | Data tidak keluar dari perangkat |
| Pertanyaan coding singkat, regex, format | Jan AI | Cepat, gratis, offline |
| Prototipe fitur LLM di aplikasi | Jan AI | API lokal kompatibel OpenAI, tanpa biaya token |
| Bug lintas banyak file atau refactoring besar | Claude Code | Paham seluruh repositori dan bisa menjalankan test |
| Infrastructure as Code dan pipeline | Claude Code | Konsisten lintas file dan bisa validasi otomatis |
| Analisis kebutuhan, postmortem, dokumen panjang | Claude | Penalaran dan kualitas bahasa lebih kuat |
| Jaringan tertutup atau tanpa internet | Jan AI | Satu satunya opsi yang tetap jalan |
Pola Hybrid: Sanitasi Lokal, Penalaran di Cloud
Dari dua workflow di atas, terlihat satu pola yang berulang. AI lokal berperan sebagai penjaga gerbang: menyaring, menyamarkan, dan merangkum data mentah. Claude berperan sebagai otak analitis: mengerjakan tugas yang butuh penalaran mendalam dengan data yang sudah aman.
Penutup: Tiga Langkah untuk Organisasi
Bagi organisasi yang ingin mulai, ada tiga langkah sederhana:
- Klasifikasikan data. Tentukan mana yang boleh ke cloud dan mana yang wajib lokal. Sesuaikan dengan UU PDP dan kontrak klien.
- Siapkan dua jalur resmi. Pasang Jan AI di perangkat kerja dengan model yang sudah dikurasi, dan sediakan akses Claude serta Claude Code dengan akun organisasi, bukan akun pribadi.
- Bakukan prompt dan aturan. Simpan prompt yang terbukti efektif sebagai template, dan tulis standar tim di CLAUDE.md agar hasil AI konsisten antar anggota.
AI lokal dan AI cloud bukan pesaing, melainkan dua alat di sabuk yang sama. Developer dan Tech Engineer yang paling produktif bukan yang paling sering memakai AI, tetapi yang paling tepat memilih alat untuk setiap tugas.
Tidak ada komentar