Amodei dan yang lainnya khawatir bahwa ketika perusahaan meningkatkan LLM dan menggabungkannya dengan teknologi lain, ancaman serius akan muncul. Dia mengatakan kepada Kongres bahwa hal ini hanya tinggal dua sampai tiga tahun lagi.
OpenAI, pembuat chatbot online ChatGPT, kemudian melakukan penelitian serupa yang menunjukkan bahwa LLM tidak jauh lebih berbahaya dibandingkan mesin pencari. Aleksander Mądry, seorang profesor ilmu komputer di Massachusetts Institute of Technology dan kepala kesiapsiagaan OpenAI, mengatakan bahwa ia berharap para peneliti akan terus meningkatkan sistem ini, namun ia belum melihat bukti apa pun bahwa mereka akan mampu menciptakan senjata biologis baru. .
LLM saat ini dibuat dengan menganalisis sejumlah besar teks digital yang diambil dari internet. Artinya, mereka memuntahkan atau menggabungkan kembali apa yang sudah tersedia secara online, termasuk informasi yang ada mengenai serangan biologis. (The New York Times telah menggugat OpenAI dan mitranya, Microsoft, menuduh mereka melakukan pelanggaran hak cipta selama proses ini.)
Namun dalam upaya mempercepat pengembangan obat-obatan baru, vaksin, dan bahan biologis bermanfaat lainnya, para peneliti mulai membangun sistem AI serupa yang dapat menghasilkan desain protein baru . Para ahli biologi mengatakan teknologi semacam itu juga dapat membantu penyerang merancang senjata biologis, namun mereka menunjukkan bahwa pembuatan senjata tersebut memerlukan laboratorium bernilai jutaan dolar, termasuk peralatan pembuatan DNA.
