Persaingan sengit dalam pengembangan AI, menurut Bengio, membuat perusahaan-perusahaan tersebut cenderung mempercepat inovasi tanpa memperhitungkan potensi bahaya yang bisa terjadi. Ia menggambarkan situasi ini dengan mengatakan bahwa jika satu pihak merasa jauh lebih unggul dari pesaingnya, mereka akan lebih berhati-hati dalam mengambil langkah. Namun, ketika dua pihak bersaing dengan intensitas yang setara, mereka akan lebih cenderung mengabaikan keselamatan demi mencapai dominasi.
Bengio, bersama dengan 96 pakar lainnya, baru-baru ini merilis laporan internasional pertama tentang keamanan AI yang diumumkan dalam KTT Keamanan AI 2023 yang diadakan di Bletchley Park. Laporan ini, yang ditugaskan oleh pemerintah Inggris, menyoroti beberapa risiko terkait dengan penggunaan AI yang berkembang pesat.
Salah satu poin utama dalam laporan tersebut adalah potensi penggunaan AI dalam serangan siber serta pengembangan senjata biologis. Laporan ini memperingatkan bahwa AI kini dapat digunakan untuk menghasilkan instruksi terperinci mengenai cara menciptakan ancaman biologis yang dapat melampaui keahlian para pakar.
Namun, meskipun laporan ini menekankan potensi bahaya, ia juga tidak menafikan manfaat besar yang dapat diberikan AI, terutama dalam bidang medis. AI memiliki potensi besar dalam meningkatkan diagnosis penyakit, pengobatan, dan inovasi dalam dunia kesehatan.
