Breaking News

Ekstensi AI di .NET

Salah satu arah dari pengembangan dan penerapan kecerdasan buatan adalah pergeseran dari aplikasi AI yang berdiri sendiri menjadi aplikasi yang sudah ada namun memiliki kemampuan kecerdasan buatan. Dalam hal ini, AI akan lebih mudah dikembangkan juga memiliki pusaka khusus yang didesain untuk teknologi yang digunakan. Ekstensi AI dan Vector Data adalah ekstensi yang menyediakan abstraksi pustaka data untuk dua skenario utama yakni: 

  • Model AI: Melalui Microsoft.Extensions.AI.Abstractions dan Microsoft.Extensions.AI

  • Vector Store: Melalui Microsoft.Extensions.VectorData.Abstractions

Tujuannya adalah menyederhanakan integrasi model AI dan database vektor dalam aplikasi .NET. Bagaimana caranya? Berikut adalah fitur-fitur ekstensi AI 

  • Interoperabilitas: Bisa digunakan dengan berbagai penyedia model dan vector store seperti Azure OpenAI, Ollama, Qdrant, SQLite.

  • Ekstensibilitas: Mudah ditambahkan fitur seperti logging, caching, observability (OpenTelemetry).

  • Structured Output: Mendukung output terstruktur (misalnya JSON) yang bisa langsung dipetakan ke tipe data C#.

  • Tool Calling: Model bisa memanggil fungsi eksternal secara otomatis berdasarkan intent pengguna.

  • Embedding Generation: Mendukung semantic search dan Retrieval-Augmented Generation (RAG) dengan integrasi vector store.

  • Dependency Injection (DI): Terintegrasi dengan sistem DI .NET untuk konfigurasi yang bersih dan modular.

masih sulit membayangkan? berikut beberapa contoh skenario penggunaannya
  • Tim membangun aplikasi Gen AI sebagai konsultan memilih tipe-tipe apartemen, Gen AI ditanamkan di aplikasi web dan membaca konten pengetahuan di Web. Ekstensi AI memungkinkan menggunakan Gen AI Llama lalu berpindah ke ChatGPT tanpa harus melakukan perubahan kode. 
  • Tim membangun aplikasi pengukuran perilaku seseorang, mereka membutuhkan telemetri percakapan maka ekstensi AI akan membantu integrasi dengan logger system dan open telemetry
  • Aplikasi warteg pintar: Gunakan structured output untuk memproses struk belanja, tool calling untuk menghitung pajak otomatis.

  • Dashboard soil monitoring: Gunakan semantic search untuk menemukan pola dari data sensor.

  • Evaluasi AI: Gunakan ekstensi untuk menguji model terhadap skenario nyata dengan integrasi observability.





Singkat kata jika kamu menggunakan .NET dan membutuhkan integrasi yang erat dengan aplikasi kamu, maka Ekstensi AI akan membantu

KondisiGunakan Ekstensi AI
Kamu membangun aplikasi AI di .NET✅ Ya
Kamu ingin berpindah antar model dengan mudah✅ Ya
Kamu butuh structured output dari model✅ Ya
Kamu ingin model bisa memanggil fungsi eksternal✅ Ya
Kamu ingin integrasi dengan vector store untuk semantic search✅ Ya
Kamu hanya butuh pemanggilan API sederhana ke model❌ Tidak wajib, bisa pakai HTTP langsung

Tidak ada komentar