“Desain protein hanyalah langkah awal dalam pembuatan protein sintetik,” katanya dalam sebuah wawancara. “Anda kemudian harus benar-benar mensintesis DNA dan memindahkan desain dari komputer ke dunia nyata – dan itu adalah tempat yang tepat untuk mengaturnya.”
Perjanjian ini merupakan salah satu dari banyak upaya untuk mempertimbangkan risiko AI dibandingkan dengan manfaat yang mungkin didapat. Ketika beberapa ahli memperingatkan bahwa teknologi AI dapat membantu menyebarkan disinformasi, menggantikan pekerjaan pada tingkat yang tidak biasa dan bahkan mungkin menghancurkan umat manusia, perusahaan teknologi, laboratorium akademis, regulator dan anggota parlemen berjuang untuk memahami risiko-risiko ini dan menemukan cara untuk mengatasinya.
Perusahaan Dr. Amodei, Anthropic, membangun model bahasa besar , atau LLM, jenis teknologi baru yang mendorong chatbot online . Ketika dia bersaksi di depan Kongres, dia berpendapat bahwa teknologi tersebut dapat segera membantu penyerang membuat senjata biologis baru.
Namun dia mengakui hal itu tidak mungkin dilakukan saat ini. Anthropic baru-baru ini melakukan penelitian terperinci yang menunjukkan bahwa jika seseorang mencoba memperoleh atau merancang senjata biologis, LLM sedikit lebih berguna daripada mesin pencari internet biasa.
Amodei dan yang lainnya khawatir bahwa ketika perusahaan meningkatkan LLM dan menggabungkannya dengan teknologi lain, ancaman serius akan muncul. Dia mengatakan kepada Kongres bahwa hal ini hanya tinggal dua sampai tiga tahun lagi.
OpenAI, pembuat chatbot online ChatGPT, kemudian melakukan penelitian serupa yang menunjukkan bahwa LLM tidak jauh lebih berbahaya dibandingkan mesin pencari. Aleksander Mądry, seorang profesor ilmu komputer di Massachusetts Institute of Technology dan kepala kesiapsiagaan OpenAI, mengatakan bahwa ia berharap para peneliti akan terus meningkatkan sistem ini, namun ia belum melihat bukti apa pun bahwa mereka akan mampu menciptakan senjata biologis baru. .
LLM saat ini dibuat dengan menganalisis sejumlah besar teks digital yang diambil dari internet. Artinya, mereka memuntahkan atau menggabungkan kembali apa yang sudah tersedia secara online, termasuk informasi yang ada mengenai serangan biologis. (The New York Times telah menggugat OpenAI dan mitranya, Microsoft, menuduh mereka melakukan pelanggaran hak cipta selama proses ini.)
