Breaking News

Ini dia Proses Hemat Token di Visual Studio 2026

Cara paling efektif menghemat token di Visual Studio 2026 adalah tidak memakai satu model untuk semua pekerjaan. Kuota premium request GitHub Copilot cepat habis bila model frontier dipakai untuk menulis getter, setter, atau DTO sederhana.

Visual Studio 2026 kini mendukung Bring Your Own Model (BYOM) di mode Agent (Preview). Developer dapat menghubungkan Ollama lokal, API key Anthropic, OpenAI, atau deployment Microsoft Foundry langsung ke pemilih model. Artinya, kita bisa mengatur model mana yang mengerjakan tugas apa, dan siapa yang menanggung biayanya.

Artikel ini membagi pekerjaan menjadi tiga lapis: kode rutin, requirements dan analisis, serta deployment dan pengujian.

Prinsip: model routing

Pilih model berdasarkan jenis pekerjaan, bukan berdasarkan model paling canggih. Model murah mengerjakan volume terbesar, model frontier dipakai hanya saat penalaran mendalam dibutuhkan, dan agent bawaan Copilot dipakai saat tool harus dijalankan.

model routing · 3 lapis pekerjaan

model routing · 3 lapis pekerjaan

Alur ini membuat token mahal terpakai di Lapis 2 saja, dan hasilnya dipakai ulang oleh dua lapis lainnya.

Lapis 1: Ollama lokal atau BYOK untuk kode rutin

Kode rutin cukup dikerjakan model kecil yang murah atau gratis. Contohnya boilerplate, CRUD, mapping DTO, unit test sederhana, komentar XML, dan refactor kecil dalam satu file. Model lokal via Ollama tidak memakai kuota Copilot sama sekali karena inferensi berjalan di mesin sendiri.

Langkah setup:

1.       Instal Ollama, lalu unduh model yang mendukung tool, misalnya ollama pull qwen3:4b atau model coder yang lebih besar bila RAM dan GPU memadai.

2.       Di panel Copilot Chat, buka pemilih model, pilih Manage models, lalu Add model provider dan pilih Ollama. Visual Studio otomatis mengisi endpoint lokal dan menampilkan model yang terpasang.

3.       Sematkan (pin) model tersebut, lalu pilih dari pemilih model saat mengerjakan tugas rutin.

4.       Alternatifnya, pakai BYOK dengan API key provider untuk model kecil yang murah, misalnya kelas Haiku atau mini. Biayanya ditagih langsung oleh provider, bukan memotong kuota Copilot.

Catatan penting: model lokal kecil sering kesulitan dengan alur agent yang panjang. Dalam uji Visual Studio Magazine, Qwen3 4B mampu membaca file proyek, tetapi bingung dalam percakapan tool dan tidak menyelesaikan perubahan yang diminta. Jadi gunakan lapis ini untuk tugas yang lingkupnya jelas dan sempit, bukan untuk tugas multi langkah.

Lapis 2: Claude untuk requirements dan analisis

Token model frontier paling bernilai saat dipakai berpikir, bukan mengetik. Claude unggul untuk pekerjaan yang butuh penalaran panjang: menyusun user story dan acceptance criteria, menganalisis kode lama sebelum refactor, merancang arsitektur, serta meninjau risiko keamanan.

Praktik yang disarankan:

•         Pakai mode Ask, bukan Agent, untuk analisis. Mode Ask tidak menjalankan tool berulang, sehingga konsumsi token lebih terkendali.

•         Hasilkan artefak sekali, lalu pakai berulang. Simpan hasil analisis sebagai requirements.md atau design.md di repositori. Lapis 1 dan Lapis 3 cukup merujuk file ini, tidak perlu menganalisis ulang.

•         Pilih kelas model sesuai bobot. Opus untuk keputusan arsitektur dan analisis lintas modul; Sonnet untuk analisis harian yang lebih ringan.

•         Tentukan jalur biaya. Claude bisa dipakai lewat model bawaan Copilot (memotong kuota premium) atau lewat BYOK dengan API key Anthropic (ditagih ke akun Anthropic). Pilih sesuai anggaran tim.

Lapis 3: GitHub Copilot untuk deployment, tool calling, dan test

Pekerjaan multi langkah yang menjalankan tool paling aman diserahkan ke model bawaan Copilot di mode Agent. Model ini sudah terverifikasi untuk tool calling di Visual Studio: menjalankan build, menjalankan test, membaca output error, memperbaiki, lalu mengulang.

Contoh tugas di lapis ini:

•         Menjalankan dan memperbaiki unit test serta integration test yang gagal.

•         Menyiapkan pipeline CI/CD, Dockerfile, atau skrip deployment ke Azure.

•         Debugging berbasis output terminal dan log build.

•         Perubahan lintas banyak file yang perlu diverifikasi dengan build.

Agar hemat, berikan rujukan yang jelas: lampirkan requirements.md atau design.md dari Lapis 2 dan sebutkan file yang relevan. Agent yang harus menebak konteks akan membaca banyak file dan menghabiskan token. Gunakan juga model Auto bila tersedia, karena Copilot memilih model yang sesuai dengan kompleksitas tugas.

Ringkasan pemilihan model

Jenis tugas

Model yang disarankan

Mode

Biaya ditanggung

Boilerplate, CRUD, DTO, komentar

Ollama lokal

Ask atau Agent (Preview)

Gratis, hardware sendiri

Refactor kecil satu file, unit test sederhana

Ollama atau BYOK model kecil

Agent (Preview)

Provider BYOK

User story, acceptance criteria

Claude Sonnet

Ask

Kuota Copilot atau akun Anthropic

Arsitektur, analisis kode lama, review keamanan

Claude Opus

Ask

Kuota Copilot atau akun Anthropic

Build, test, debugging, perubahan banyak file

Model bawaan Copilot atau Auto

Agent

Kuota Copilot

Pipeline CI/CD dan deployment

Model bawaan Copilot

Agent

Kuota Copilot

Tips tambahan hemat token

•         Lampirkan file seperlunya. Setiap file yang dilampirkan ikut dihitung sebagai token input. Lampirkan file yang relevan saja, bukan seluruh solusi.

•         Buat thread baru per tugas. Riwayat percakapan panjang dikirim ulang di setiap permintaan. Thread baru berarti konteks lebih ringan.

•         Simpan instruksi tetap di file. Tuliskan konvensi kode, struktur proyek, dan aturan tim di .github/copilot-instructions.md agar tidak perlu diketik ulang di setiap prompt.

•         Tulis prompt yang spesifik. Sebutkan nama kelas, method, dan hasil yang diharapkan. Prompt kabur memicu agent menjelajah banyak file.

•         Pantau pemakaian. Cek sisa premium request di pengaturan GitHub Copilot dan dashboard billing provider BYOK secara berkala.

•         Pakai mode Interactive untuk tugas berisiko. Mode ini meminta persetujuan sebelum agent menjalankan perintah, sehingga Anda bisa menghentikan langkah yang tidak perlu lebih awal.

Penutup

Hemat token bukan berarti membatasi AI, tetapi menempatkan setiap model pada pekerjaan yang paling cocok. Model lokal mengetik, Claude berpikir, dan Copilot mengeksekusi. Mulailah dengan memasang Ollama minggu ini, pindahkan tugas rutin ke sana, lalu bandingkan sisa kuota premium Anda di akhir bulan.

Referensi

•         Hands on: How to Bring Your Own Local AI Model to Visual Studio Insiders (Preview), Visual Studio Magazine, 25 Agustus 2026

•         Bring your own language model key in VS Code now available, GitHub Changelog, 22 April 2026




Tidak ada komentar