Ini dia Proses Hemat Token di Visual Studio 2026
Cara paling efektif menghemat token di Visual Studio 2026
adalah tidak memakai satu model untuk semua pekerjaan. Kuota premium request
GitHub Copilot cepat habis bila model frontier dipakai untuk menulis getter,
setter, atau DTO sederhana.
Visual Studio 2026 kini mendukung Bring Your Own Model
(BYOM) di mode Agent (Preview). Developer dapat menghubungkan Ollama
lokal, API key Anthropic, OpenAI, atau deployment Microsoft Foundry langsung ke
pemilih model. Artinya, kita bisa mengatur model mana yang mengerjakan tugas
apa, dan siapa yang menanggung biayanya.
Artikel ini membagi pekerjaan menjadi tiga lapis: kode
rutin, requirements dan analisis, serta deployment dan pengujian.
Prinsip: model routing
Pilih model berdasarkan jenis pekerjaan, bukan berdasarkan
model paling canggih. Model murah mengerjakan volume terbesar, model frontier
dipakai hanya saat penalaran mendalam dibutuhkan, dan agent bawaan Copilot
dipakai saat tool harus dijalankan.

model routing · 3 lapis pekerjaan
Alur ini membuat token mahal terpakai di Lapis 2 saja, dan
hasilnya dipakai ulang oleh dua lapis lainnya.
Lapis 1: Ollama lokal atau BYOK untuk kode rutin
Kode rutin cukup dikerjakan model kecil yang murah atau
gratis. Contohnya boilerplate, CRUD, mapping DTO, unit test sederhana, komentar
XML, dan refactor kecil dalam satu file. Model lokal via Ollama tidak memakai
kuota Copilot sama sekali karena inferensi berjalan di mesin sendiri.
Langkah setup:
1.
Instal Ollama, lalu unduh model yang mendukung tool,
misalnya ollama pull qwen3:4b atau
model coder yang lebih besar bila RAM dan GPU memadai.
2.
Di panel Copilot Chat, buka pemilih model, pilih Manage
models, lalu Add model provider dan pilih Ollama. Visual
Studio otomatis mengisi endpoint lokal dan menampilkan model yang terpasang.
3.
Sematkan (pin) model tersebut, lalu pilih dari pemilih
model saat mengerjakan tugas rutin.
4.
Alternatifnya, pakai BYOK dengan API key provider untuk
model kecil yang murah, misalnya kelas Haiku atau mini. Biayanya ditagih
langsung oleh provider, bukan memotong kuota Copilot.
Catatan penting: model lokal kecil sering kesulitan dengan
alur agent yang panjang. Dalam uji Visual Studio Magazine, Qwen3 4B mampu
membaca file proyek, tetapi bingung dalam percakapan tool dan tidak
menyelesaikan perubahan yang diminta. Jadi gunakan lapis ini untuk tugas yang
lingkupnya jelas dan sempit, bukan untuk tugas multi langkah.
Lapis 2: Claude untuk requirements dan analisis
Token model frontier paling bernilai saat dipakai berpikir,
bukan mengetik. Claude unggul untuk pekerjaan yang butuh penalaran panjang:
menyusun user story dan acceptance criteria, menganalisis kode lama sebelum
refactor, merancang arsitektur, serta meninjau risiko keamanan.
Praktik yang disarankan:
•
Pakai mode Ask, bukan Agent, untuk analisis.
Mode Ask tidak menjalankan tool berulang, sehingga konsumsi token lebih
terkendali.
•
Hasilkan artefak sekali, lalu pakai berulang.
Simpan hasil analisis sebagai requirements.md
atau design.md di repositori.
Lapis 1 dan Lapis 3 cukup merujuk file ini, tidak perlu menganalisis ulang.
•
Pilih kelas model sesuai bobot. Opus untuk
keputusan arsitektur dan analisis lintas modul; Sonnet untuk analisis harian
yang lebih ringan.
•
Tentukan jalur biaya. Claude bisa dipakai lewat
model bawaan Copilot (memotong kuota premium) atau lewat BYOK dengan API key
Anthropic (ditagih ke akun Anthropic). Pilih sesuai anggaran tim.
Lapis 3: GitHub Copilot untuk deployment, tool calling, dan test
Pekerjaan multi langkah yang menjalankan tool paling aman
diserahkan ke model bawaan Copilot di mode Agent. Model ini sudah terverifikasi
untuk tool calling di Visual Studio: menjalankan build, menjalankan test,
membaca output error, memperbaiki, lalu mengulang.
Contoh tugas di lapis ini:
•
Menjalankan dan memperbaiki unit test serta integration
test yang gagal.
•
Menyiapkan pipeline CI/CD, Dockerfile, atau skrip
deployment ke Azure.
•
Debugging berbasis output terminal dan log build.
•
Perubahan lintas banyak file yang perlu diverifikasi
dengan build.
Agar hemat, berikan rujukan yang jelas: lampirkan requirements.md atau design.md dari Lapis 2 dan sebutkan
file yang relevan. Agent yang harus menebak konteks akan membaca banyak file
dan menghabiskan token. Gunakan juga model Auto bila tersedia, karena
Copilot memilih model yang sesuai dengan kompleksitas tugas.
Ringkasan pemilihan model
|
Jenis
tugas |
Model
yang disarankan |
Mode |
Biaya
ditanggung |
|
Boilerplate, CRUD, DTO, komentar |
Ollama lokal |
Ask atau Agent (Preview) |
Gratis, hardware sendiri |
|
Refactor kecil satu file, unit test sederhana |
Ollama atau BYOK model kecil |
Agent (Preview) |
Provider BYOK |
|
User story, acceptance criteria |
Claude Sonnet |
Ask |
Kuota Copilot atau akun Anthropic |
|
Arsitektur, analisis kode lama, review keamanan |
Claude Opus |
Ask |
Kuota Copilot atau akun Anthropic |
|
Build, test, debugging, perubahan banyak file |
Model bawaan Copilot atau Auto |
Agent |
Kuota Copilot |
|
Pipeline CI/CD dan deployment |
Model bawaan Copilot |
Agent |
Kuota Copilot |
Tips tambahan hemat token
•
Lampirkan file seperlunya. Setiap file yang
dilampirkan ikut dihitung sebagai token input. Lampirkan file yang relevan
saja, bukan seluruh solusi.
•
Buat thread baru per tugas. Riwayat percakapan
panjang dikirim ulang di setiap permintaan. Thread baru berarti konteks lebih
ringan.
•
Simpan instruksi tetap di file. Tuliskan
konvensi kode, struktur proyek, dan aturan tim di .github/copilot-instructions.md
agar tidak perlu diketik ulang di setiap prompt.
•
Tulis prompt yang spesifik. Sebutkan nama kelas,
method, dan hasil yang diharapkan. Prompt kabur memicu agent menjelajah banyak
file.
•
Pantau pemakaian. Cek sisa premium request di
pengaturan GitHub Copilot dan dashboard billing provider BYOK secara berkala.
•
Pakai mode Interactive untuk tugas berisiko.
Mode ini meminta persetujuan sebelum agent menjalankan perintah, sehingga Anda
bisa menghentikan langkah yang tidak perlu lebih awal.
Penutup
Hemat token bukan berarti membatasi AI, tetapi menempatkan
setiap model pada pekerjaan yang paling cocok. Model lokal mengetik, Claude
berpikir, dan Copilot mengeksekusi. Mulailah dengan memasang Ollama minggu ini,
pindahkan tugas rutin ke sana, lalu bandingkan sisa kuota premium Anda di akhir
bulan.
Referensi
•
Hands
on: How to Bring Your Own Local AI Model to Visual Studio Insiders (Preview),
Visual Studio Magazine, 25 Agustus 2026
•
Bring
your own language model key in VS Code now available, GitHub Changelog, 22
April 2026

Tidak ada komentar