Langsung ke konten

← Kembali ke Labs

L3:ai-cv-screening-platform · AI Wing · Pilihan

AI CV screening dan evaluasi

Prototipe yang sering gagal ditata ulang menjadi platform screening teruji dan terevaluasi: AI memberikan bukti, recruiter memutuskan.

Peran
Pembuat dan lead engineer, bertanggung jawab atas keputusan evaluasi
Periode
Jun 2026 hingga Okt 2026

Hasil

  • ~45%

    Tingkat kegagalan screening yang dihilangkan lewat perbaikan

    Teramati pada run evaluasi 22 pasang, dengan perbaikan diuji melalui 7 regression test dari pesan error asli. Rerun evaluasi yang persis sama tidak tercatat.

    Terverifikasi
  • 0.13%

    Tingkat parse failure pada baseline berikutnya (1 dari 800 panggilan)

    Diukur pada baseline evaluasi berikutnya menggunakan model dan prompt yang lebih baru.

    Terverifikasi
  • 270+

    File test ditambahkan dari kondisi tanpa test, dengan evaluation gate yang memblokir deploy

    Berdasarkan riwayat repositori.

    Terverifikasi
  • 21.1 s to 12.1 s

    Latensi p95 screening dengan reasoning effort medium, bukan high

    Diukur dalam putaran evaluasi terkontrol; pengaturan yang dipilih tetap lolos gate fairness dan injection.

    Terverifikasi

Masalah

Screening berbasis LLM sering gagal dan memberikan keputusan terima atau tolak tanpa bukti. Belum ada test atau release gate untuk mendeteksi regresi akibat perubahan prompt maupun model.

Yang saya kerjakan

  • Saya menemukan bahwa dua error produksi disebabkan token yang habis di tengah JSON dan newline mentah dalam string, lalu mengatasinya dengan JSON mode, batas output, extractor yang mengenali tanda kutip, dan retry.
  • Saya menambahkan test suite pertama dan evaluation harness dengan CI gate, menggunakan golden set 40 pasang (37,5% berbahasa Indonesia), pengecekan fairness counterfactual, dan 20+ kelas prompt injection.
  • Saya menghapus keputusan terima atau tolak dari AI, serta menambahkan AI disclosure, system card, dan redaksi identitas sebelum pemanggilan model.
  • Saya menerapkan managed identity tanpa password dan panggilan bertanda tangan HMAC antara web tier dan backend.

Arsitektur

  1. ManusiaRecruiterMengambil keputusan akhir
  2. KlienNext.js web app
  3. LayananFastAPI and Durable Functions
  4. LayananEvaluation harnessDeployment gate di CI
  5. AIAzure OpenAIStructured output
  6. AIDocument IntelligenceParsing CV

Alur data

  • Recruiter to Next.js web app
  • Next.js web app to FastAPI and Durable Functions (HMAC-signed)
  • FastAPI and Durable Functions to Azure OpenAI (screening)
  • FastAPI and Durable Functions to Document Intelligence (parse)
  • Evaluation harness to Azure OpenAI (golden set)

Tech stack

  • Next.js
  • FastAPI
  • Durable Functions
  • Azure OpenAI
  • Azure AI Foundry
  • Document Intelligence
  • Cosmos DB
  • Key Vault
  • Managed Identity
  • Entra ID
  • GitHub Actions
  • Bicep

L2 · Riwayat karier terkaitTechnical Consultant, Software & AI · Metrodata (PT Mitra Integrasi Informatika)