Dalam hal ini, dia menyoroti bahwa kekhawatiran utama para ahli keamanan AI adalah terkait dengan potensi penciptaan kecerdasan buatan yang dapat lebih cerdas daripada manusia, yang kemudian dapat menjadi ancaman eksistensial jika tidak dikendalikan dengan baik.
Hal ini semakin diperparah dengan laju perkembangan AI yang terus meningkat dengan cepat, jauh lebih cepat dari yang diperkirakan sebelumnya. Hinton telah mengundurkan diri dari pekerjaannya di Google untuk menyampaikan keprihatinannya secara terbuka terhadap risiko yang ditimbulkan oleh pengembangan AI yang tidak terkendali.
Dalam situasi seperti ini, regulasi pemerintah terhadap teknologi AI menjadi sangat penting. Hinton menekankan bahwa tanpa regulasi yang kuat, pengembangan AI mungkin tidak akan terkendali dan dapat menimbulkan konsekuensi yang serius bagi manusia. Dia mendesak adanya regulasi yang mengatur pengembangan AI guna memastikan keamanan dan kemanusiaan dalam pemanfaatannya.
Dalam pandangannya, Hinton juga menyatakan bahwa peraturan pemerintah merupakan satu-satunya cara untuk memaksa perusahaan-perusahaan besar untuk melakukan lebih banyak penelitian tentang keselamatan dalam pengembangan AI. Tanpa adanya regulasi yang kuat, risiko kehadiran AI yang lebih cerdas daripada manusia dapat menjadi kenyataan dalam waktu yang lebih singkat dari perkiraan sebelumnya.
