Bias, Halusinasi, dan Verifikasi

Bias: cermin datanya

Model belajar dari data manusia — lengkap dengan prasangkanya. Bias muncul saat model memperlakukan kelompok tertentu tidak adil, misalnya selalu menggambar CEO sebagai pria, atau lebih sering menolak nama tertentu.

Apa yang bisa kamu lakukan?

1. Sadari bahwa output model itu default dari data, bukan kebenaran netral.
2. Saat memakai AI untuk keputusan yang menyangkut orang lain, uji dengan input yang beragam.
3. Laporkan bias yang kamu temukan — komunitas butuh mata banyak orang.

Halusinasi: menebak bukan mengetahui

Halusinasi terjadi saat model mengisi kekosongan informasi dengan tebakan yang terdengar meyakinkan. Pola rawan:

• Spesifik tapi langka: nama orang minor, statistik lokal, kutipan halaman tertentu.
• Permintaan yang mustahil dipenuhi: "buat sitasi journal dari 1997".

Protokol verifikasi 3 lapis

1. Sumber: minta model menyebut sumbernya.
2. Silang: cek sumber itu benar-benar ada dan bilang hal yang sama.
3. Orang kedua: untuk konten penting, minta orang lain (atau sesi AI baru) mengkritik hasilnya.