Dalam hal ini, banyak yang mempertanyakan tanggung jawab Google sebagai penyedia teknologi: mengapa mereka tidak mampu menyaring atau mengoreksi bias tersebut sebelum sistem diluncurkan ke publik?
Google Berkilah, Publik Tak Puas
Menanggapi tudingan ini, Google menyatakan bahwa mereka terus mengembangkan sistem untuk meminimalkan bias dalam AI. Namun, pernyataan tersebut dinilai belum cukup konkret. Para pemerhati teknologi menganggap bahwa langkah-langkah mitigasi Google belum transparan dan tidak melibatkan partisipasi masyarakat secara luas.
“Kalau AI dipakai di layanan publik, maka akuntabilitasnya juga harus publik. Kita butuh keterbukaan, bukan hanya janji,” tegas aktivis digital dari Asia Tenggara.
Dampak Besar, Risiko Sosial Nyata
Kecerdasan buatan kini digunakan dalam berbagai aspek kehidupan: dari dunia pendidikan, pelayanan kesehatan, sistem hukum, hingga perekrutan kerja. Jika sistem ini bias, maka dampaknya bisa merugikan jutaan orang secara sistematis.
Bayangkan AI yang digunakan untuk menyaring CV pelamar kerja dan secara tidak sadar menolak kandidat berdasarkan nama yang diasosiasikan dengan etnis tertentu. Atau sistem rekomendasi yang cenderung mengabaikan kelompok minoritas. Ini bukan sekadar isu teknis, tapi menyangkut nilai-nilai dasar dalam masyarakat.
Desakan Regulasi dan Transparansi Makin Kuat
Dalam situasi ini, tekanan terhadap pemerintah dan regulator internasional pun meningkat. Banyak pihak menyerukan pembentukan standar etika global dan aturan hukum yang tegas dalam pengembangan serta penggunaan AI.
