Puluhan Ilmuwan Ternama Menandatangani Upaya Mencegah Senjata Biologi AI

Sebuah kesepakatan yang dibuat oleh lebih dari 90 negara menyatakan bahwa manfaat kecerdasan buatan dalam bidang biologi akan melebihi potensi kerugiannya.

Dario Amodei, kepala eksekutif perusahaan rintisan AI terkemuka, Anthropic , mengatakan kepada Kongres tahun lalu bahwa teknologi AI baru dapat segera membantu orang-orang yang tidak terampil namun jahat dalam menciptakan serangan biologis skala besar , seperti pelepasan virus atau zat beracun yang menyebabkan penyebaran luas. penyakit dan kematian.

Para senator dari kedua partai merasa khawatir, sementara para peneliti AI di industri dan akademisi memperdebatkan seberapa serius ancaman yang mungkin terjadi.

Kini, lebih dari 90 ahli biologi dan ilmuwan lain yang berspesialisasi dalam teknologi AI yang digunakan untuk merancang protein baru – mekanisme mikroskopis yang menggerakkan semua ciptaan dalam biologi – telah menandatangani perjanjian yang berupaya memastikan bahwa penelitian mereka yang dibantu AI akan terus berjalan tanpa mengekspos dunia. untuk bahaya yang serius.

Para ahli biologi, termasuk peraih Nobel Frances Arnold dan mewakili laboratorium di Amerika Serikat dan negara-negara lain, juga berpendapat bahwa teknologi terbaru akan memberikan lebih banyak manfaat daripada dampak negatifnya, termasuk vaksin dan obat-obatan baru.

“Seiring dengan para ilmuwan yang terlibat dalam pekerjaan ini, kami percaya bahwa manfaat teknologi AI saat ini untuk perancangan protein jauh lebih besar daripada potensi bahayanya, dan kami ingin memastikan penelitian kami tetap bermanfaat bagi semua orang di masa depan,” demikian isi perjanjian tersebut.

Perjanjian tersebut tidak berupaya untuk menekan pengembangan atau distribusi teknologi AI. Sebaliknya, para ahli biologi bertujuan untuk mengatur penggunaan peralatan yang dibutuhkan untuk memproduksi materi genetik baru.

Peralatan manufaktur DNA inilah yang pada akhirnya memungkinkan pengembangan senjata biologis, kata David Baker, direktur Institute for Protein Design di Universitas Washington, yang membantu mengawal perjanjian tersebut.

“Desain protein hanyalah langkah awal dalam pembuatan protein sintetik,” katanya dalam sebuah wawancara. “Anda kemudian harus benar-benar mensintesis DNA dan memindahkan desain dari komputer ke dunia nyata – dan itu adalah tempat yang tepat untuk mengaturnya.”

Perjanjian ini merupakan salah satu dari banyak upaya untuk mempertimbangkan risiko AI dibandingkan dengan manfaat yang mungkin didapat. Ketika beberapa ahli memperingatkan bahwa teknologi AI dapat membantu menyebarkan disinformasi, menggantikan pekerjaan pada tingkat yang tidak biasa dan bahkan mungkin menghancurkan umat manusia, perusahaan teknologi, laboratorium akademis, regulator dan anggota parlemen berjuang untuk memahami risiko-risiko ini dan menemukan cara untuk mengatasinya.

Perusahaan Dr. Amodei, Anthropic, membangun model bahasa besar , atau LLM, jenis teknologi baru yang mendorong chatbot online . Ketika dia bersaksi di depan Kongres, dia berpendapat bahwa teknologi tersebut dapat segera membantu penyerang membuat senjata biologis baru.

Namun dia mengakui hal itu tidak mungkin dilakukan saat ini. Anthropic baru-baru ini melakukan penelitian terperinci yang menunjukkan bahwa jika seseorang mencoba memperoleh atau merancang senjata biologis, LLM sedikit lebih berguna daripada mesin pencari internet biasa.

Amodei dan yang lainnya khawatir bahwa ketika perusahaan meningkatkan LLM dan menggabungkannya dengan teknologi lain, ancaman serius akan muncul. Dia mengatakan kepada Kongres bahwa hal ini hanya tinggal dua sampai tiga tahun lagi.

OpenAI, pembuat chatbot online ChatGPT, kemudian melakukan penelitian serupa yang menunjukkan bahwa LLM tidak jauh lebih berbahaya dibandingkan mesin pencari. Aleksander Mądry, seorang profesor ilmu komputer di Massachusetts Institute of Technology dan kepala kesiapsiagaan OpenAI, mengatakan bahwa ia berharap para peneliti akan terus meningkatkan sistem ini, namun ia belum melihat bukti apa pun bahwa mereka akan mampu menciptakan senjata biologis baru. .

LLM saat ini dibuat dengan menganalisis sejumlah besar teks digital yang diambil dari internet. Artinya, mereka memuntahkan atau menggabungkan kembali apa yang sudah tersedia secara online, termasuk informasi yang ada mengenai serangan biologis. (The New York Times telah menggugat OpenAI dan mitranya, Microsoft, menuduh mereka melakukan pelanggaran hak cipta selama proses ini.)

Namun dalam upaya mempercepat pengembangan obat-obatan baru, vaksin, dan bahan biologis bermanfaat lainnya, para peneliti mulai membangun sistem AI serupa yang dapat menghasilkan desain protein baru . Para ahli biologi mengatakan teknologi semacam itu juga dapat membantu penyerang merancang senjata biologis, namun mereka menunjukkan bahwa pembuatan senjata tersebut memerlukan laboratorium bernilai jutaan dolar, termasuk peralatan pembuatan DNA.

“Ada beberapa risiko yang tidak memerlukan infrastruktur bernilai jutaan dolar, namun risiko tersebut sudah ada sejak lama dan tidak terkait dengan AI,” kata Andrew White, salah satu pendiri organisasi nirlaba Future House dan salah satu ahli biologi. yang menandatangani perjanjian tersebut.

Para ahli biologi menyerukan pengembangan langkah-langkah keamanan yang akan mencegah peralatan manufaktur DNA digunakan dengan bahan berbahaya – meskipun tidak jelas bagaimana langkah-langkah tersebut akan berhasil. Mereka juga menyerukan peninjauan keselamatan dan keamanan model AI baru sebelum merilisnya.

Mereka tidak berpendapat bahwa teknologi harus dikesampingkan.

“Teknologi ini tidak boleh hanya dimiliki oleh segelintir orang atau organisasi,” kata Rama Ranganathan, profesor biokimia dan biologi molekuler di Universitas Chicago, yang juga menandatangani perjanjian tersebut. “Komunitas ilmuwan harus dapat dengan bebas mengeksplorasi dan berkontribusi terhadapnya.”