OWASP Top 10 untuk LLM

Kenali peta risikonya

OWASP menerbitkan Top 10 for LLM Applications — referensi komunitas untuk mengklasifikasikan risiko. Gunakan sebagai checklist audit, bukan dogma. Item-item kuncinya:

1. Prompt Injection — input memanipulasi instruksi (lihat lesson sebelumnya).
2. Sensitive Information Disclosure — model memuntahkan data rahasia dari konteks/konfigurasi.
3. Supply Chain — komponen pihak ketiga (model, plugin, dataset) yang dikompromikan.
4. Data & Model Poisoning — data latih/RAG yang dijahili mempengaruhi perilaku.
5. Improper Output Handling — output LLM langsung dieksekusi/render tanpa validasi (XSS, command injection).
6. Excessive Agency — tools/permission yang terlalu luas untuk kebutuhan.
7. System Prompt Leakage — system prompt (yang sering berisi logika bisnis & rahasia) bocor ke user.
8. Vector & Embedding Weaknesses — kerentanan spesifik sistem RAG.

Cara memakai daftar ini

1. Ambil satu fitur aplikasimu.
2. Walk-through tiap risiko: "kalau ini terjadi di fiturku, apa dampaknya?"
3. Catat yang berdampak → desain mitigasi → masukkan ke threat model tim.

Yang sering diabaikan tim

Improper Output Handling. Semua orang sibuk dengan injection di sisi input, lupa bahwa output model yang di-render sebagai markdown/HTML bisa membawa XSS, atau output yang dijalankan sebagai kode bisa jadi RCE. Output model = input tak tepercaya bagi sisa sistemmu.