Tampang.com | Kecerdasan buatan kini digunakan dalam berbagai sektor: mulai dari rekrutmen kerja, pinjaman online, hingga penegakan hukum. Tapi pertanyaannya, apakah sistem ini benar-benar adil?
Diskriminasi Tersembunyi dalam Kode
Beberapa studi menunjukkan bahwa sistem AI kerap kali melanggengkan bias terhadap kelompok tertentu, karena dilatih dengan data historis yang tidak netral. “Kalau data latihnya diskriminatif, maka hasilnya pun akan ikut bias,” ujar Risa Maulani, pakar etika teknologi.
Kasus Nyata: Ditolak Karena Algoritma
Sudah terjadi di berbagai negara — pelamar kerja ditolak karena nama “kurang umum”, kredit ditolak oleh sistem karena berasal dari wilayah berisiko, atau bahkan wajah tidak dikenali karena warna kulit. “Keadilan tidak boleh diserahkan ke mesin tanpa koreksi manusia,” tegas Risa.
