“Desain protein hanyalah langkah awal dalam pembuatan protein sintetik,” katanya dalam sebuah wawancara. “Anda kemudian harus benar-benar mensintesis DNA dan memindahkan desain dari komputer ke dunia nyata – dan itu adalah tempat yang tepat untuk mengaturnya.”
Perjanjian ini merupakan salah satu dari banyak upaya untuk mempertimbangkan risiko AI dibandingkan dengan manfaat yang mungkin didapat. Ketika beberapa ahli memperingatkan bahwa teknologi AI dapat membantu menyebarkan disinformasi, menggantikan pekerjaan pada tingkat yang tidak biasa dan bahkan mungkin menghancurkan umat manusia, perusahaan teknologi, laboratorium akademis, regulator dan anggota parlemen berjuang untuk memahami risiko-risiko ini dan menemukan cara untuk mengatasinya.
Perusahaan Dr. Amodei, Anthropic, membangun model bahasa besar , atau LLM, jenis teknologi baru yang mendorong chatbot online . Ketika dia bersaksi di depan Kongres, dia berpendapat bahwa teknologi tersebut dapat segera membantu penyerang membuat senjata biologis baru.
Namun dia mengakui hal itu tidak mungkin dilakukan saat ini. Anthropic baru-baru ini melakukan penelitian terperinci yang menunjukkan bahwa jika seseorang mencoba memperoleh atau merancang senjata biologis, LLM sedikit lebih berguna daripada mesin pencari internet biasa.
