Ekstensi AI di .NET
Salah satu arah dari pengembangan dan penerapan kecerdasan buatan adalah pergeseran dari aplikasi AI yang berdiri sendiri menjadi aplikasi yang sudah ada namun memiliki kemampuan kecerdasan buatan. Dalam hal ini, AI akan lebih mudah dikembangkan juga memiliki pusaka khusus yang didesain untuk teknologi yang digunakan. Ekstensi AI dan Vector Data adalah ekstensi yang menyediakan abstraksi pustaka data untuk dua skenario utama yakni:
Model AI: Melalui
Microsoft.Extensions.AI.Abstractions
danMicrosoft.Extensions.AI
Vector Store: Melalui
Microsoft.Extensions.VectorData.Abstractions
Tujuannya adalah menyederhanakan integrasi model AI dan database vektor dalam aplikasi .NET. Bagaimana caranya? Berikut adalah fitur-fitur ekstensi AI
Interoperabilitas: Bisa digunakan dengan berbagai penyedia model dan vector store seperti Azure OpenAI, Ollama, Qdrant, SQLite.
Ekstensibilitas: Mudah ditambahkan fitur seperti logging, caching, observability (OpenTelemetry).
Structured Output: Mendukung output terstruktur (misalnya JSON) yang bisa langsung dipetakan ke tipe data C#.
Tool Calling: Model bisa memanggil fungsi eksternal secara otomatis berdasarkan intent pengguna.
Embedding Generation: Mendukung semantic search dan Retrieval-Augmented Generation (RAG) dengan integrasi vector store.
Dependency Injection (DI): Terintegrasi dengan sistem DI .NET untuk konfigurasi yang bersih dan modular.
- Tim membangun aplikasi Gen AI sebagai konsultan memilih tipe-tipe apartemen, Gen AI ditanamkan di aplikasi web dan membaca konten pengetahuan di Web. Ekstensi AI memungkinkan menggunakan Gen AI Llama lalu berpindah ke ChatGPT tanpa harus melakukan perubahan kode.
- Tim membangun aplikasi pengukuran perilaku seseorang, mereka membutuhkan telemetri percakapan maka ekstensi AI akan membantu integrasi dengan logger system dan open telemetry
Aplikasi warteg pintar: Gunakan structured output untuk memproses struk belanja, tool calling untuk menghitung pajak otomatis.
Dashboard soil monitoring: Gunakan semantic search untuk menemukan pola dari data sensor.
Evaluasi AI: Gunakan ekstensi untuk menguji model terhadap skenario nyata dengan integrasi observability.
Kondisi | Gunakan Ekstensi AI |
---|---|
Kamu membangun aplikasi AI di .NET | ✅ Ya |
Kamu ingin berpindah antar model dengan mudah | ✅ Ya |
Kamu butuh structured output dari model | ✅ Ya |
Kamu ingin model bisa memanggil fungsi eksternal | ✅ Ya |
Kamu ingin integrasi dengan vector store untuk semantic search | ✅ Ya |
Kamu hanya butuh pemanggilan API sederhana ke model | ❌ Tidak wajib, bisa pakai HTTP langsung |
Tidak ada komentar