Namun dalam upaya mempercepat pengembangan obat-obatan baru, vaksin, dan bahan biologis bermanfaat lainnya, para peneliti mulai membangun sistem AI serupa yang dapat menghasilkan desain protein baru . Para ahli biologi mengatakan teknologi semacam itu juga dapat membantu penyerang merancang senjata biologis, namun mereka menunjukkan bahwa pembuatan senjata tersebut memerlukan laboratorium bernilai jutaan dolar, termasuk peralatan pembuatan DNA.
“Ada beberapa risiko yang tidak memerlukan infrastruktur bernilai jutaan dolar, namun risiko tersebut sudah ada sejak lama dan tidak terkait dengan AI,” kata Andrew White, salah satu pendiri organisasi nirlaba Future House dan salah satu ahli biologi. yang menandatangani perjanjian tersebut.
Para ahli biologi menyerukan pengembangan langkah-langkah keamanan yang akan mencegah peralatan manufaktur DNA digunakan dengan bahan berbahaya – meskipun tidak jelas bagaimana langkah-langkah tersebut akan berhasil. Mereka juga menyerukan peninjauan keselamatan dan keamanan model AI baru sebelum merilisnya.
Mereka tidak berpendapat bahwa teknologi harus dikesampingkan.
“Teknologi ini tidak boleh hanya dimiliki oleh segelintir orang atau organisasi,” kata Rama Ranganathan, profesor biokimia dan biologi molekuler di Universitas Chicago, yang juga menandatangani perjanjian tersebut. “Komunitas ilmuwan harus dapat dengan bebas mengeksplorasi dan berkontribusi terhadapnya.”
