L3:ai-solutions-assistant · AI Wing · Pilihan
Asisten RAG dwibahasa dengan sitasi
Asisten multi-agent untuk situs solusi AI perusahaan, yang hanya menjawab dari konten terkurasi dengan sitasi.
- Peran
- Owner dan technical lead
- Periode
- Jul 2026 hingga Sep 2026
Hasil
-23%
Penurunan prompt token; panggilan model per giliran turun dari 3 menjadi 2
Diukur dalam benchmark pull request pada situs dengan trafik rendah, sekitar 33 giliran per hari.
Terverifikasi~4.2x
Kekurangan hitung token yang ditemukan dan diperbaiki pada spend cap harian
Teridentifikasi dalam review produksi.
Terverifikasi
Masalah
Situs perusahaan dwibahasa membutuhkan jawaban dari konten terkurasi dengan sitasi, perlindungan terhadap prompt injection, dan batas anggaran harian yang dapat ditegakkan.
Yang saya kerjakan
- Saya membangun router deterministik dan tiga YAML agent menggunakan Microsoft Agent Framework.
- Saya menggabungkan vector search Cosmos DB dan hybrid retrieval Azure AI Search dengan citation gating, Prompt Shields, serta pemeriksaan output per kalimat.
- Saya memperbaiki kegagalan produksi yang tidak terdeteksi: framing stream yang membuat asisten tidak berfungsi, telemetry yang melaporkan nol request, dan spend cap harian yang menghitung token terlalu rendah.
Arsitektur
- KlienNext.js siteAsisten streaming
- LayananDeterministic router
- AI3 Agent Framework agents
- AIContent Safety guardsPrompt Shields, output guard
- DataCosmos DB vector and AI Search hybrid
Alur data
- Next.js site to Deterministic router
- Deterministic router to Content Safety guards (screen)
- Deterministic router to 3 Agent Framework agents
- 3 Agent Framework agents to Cosmos DB vector and AI Search hybrid (cited passages)
Tech stack
Next.js
Microsoft Agent Framework
Cosmos DB
Azure AI Search
Azure OpenAI
Azure AI Content Safety
App Service
L2 · Riwayat karier terkaitTechnical Consultant, Software & AI · Metrodata (PT Mitra Integrasi Informatika)