Sedang memuat…

MEMUAT…

Komunitas WhatsApp NextCreator

Diskusi harian, info event, dan bantuan sesama builder — bagian resmi dari ekosistem NextCreator.

Gabung WhatsApp

NEXTCREATOR

Belajar · Bangun · Bagikan

Ekosistem komunitas AI Indonesia — belajar lewat jalur terstruktur, bangun proyek nyata, dan tumbuh bersama.

Belajar

Jalur belajar
Showcase proyek
Jelajahi konten

Komunitas

Diskusi
Member
Kreator

Bantuan

Pusat komunitas
Masuk / gabung

Legal

Kebijakan Privasi
Syarat & Ketentuan

Lab Red Team: Garak, PyRIT, Promptfoo · NextCreator

Jalur/AI Security/Lab Red Team: Garak, PyRIT, Promptfoo

AI SecurityLanjutan

Lab Red Team: Garak, PyRIT, Promptfoo

Perkakas pengujian keamanan LLM open-source — dari scanner probe hingga attacker otonom.

Masuk untuk mulai

Masuk ke lab: alat-alat yang dipakai profesional untuk mengetes keamanan model dan aplikasi AI. Membahas Garak (scanner kerentanan dari NVIDIA), PyRIT (framework red teaming dari Microsoft), Promptfoo untuk evaluasi berbasis konfigurasi, guardrails pertahanan, serta metodologi audit berbasis OWASP LLM Top 10.

Materi kursus(4 LESSON)

Garak: Scanner Kerentanan LLMTool open-source NVIDIA dengan pustaka probe statis — cara cepat memetakan kelemahan model.16 MNT
PyRIT: Red Teaming dengan Attacker OtonomFramework Microsoft yang memakai LLM sebagai penyerang — serangan dinamis yang beradaptasi.16 MNT
Promptfoo & Guardrails: Sisi PertahananEvaluasi config-driven untuk deteksi regresi, dan lapisan pertahanan NeMo Guardrails / LLM Guard.14 MNT
Metodologi Audit: OWASP LLM Top 10Menjahit alat menjadi metodologi: checklist audit yang terstruktur dan laporan yang bisa ditindaklanjuti.15 MNT

Challenge kursus ini

CHALLENGESULIT

Audit Chatbot Lab

Audit lengkap sebuah chatbot sandbox dengan Garak + PyRIT, lapor dengan kerangka OWASP.