Skenario penggunaan intelligen tentu untuk membuat senjata biologis adalah salah satu risiko yang paling serius dan disebutkan. Berbeda dengan ancaman nuklir, yang memerlukan kapasitas industri besar, senjata biologis membutuhkan terlebih dahulu informasi dan akses ke laboratorium. AI dapat meradikal menurunkan batasan ini.

Risiko Kunci: Menurunkan Batasan Masuk

Ujaran utama bukan tentang bahwa AI sendiri ingin membunuh siapapun, tetapi tentang kemungkinan nya membuat pembuatan senjata biologis mudah diakses oleh kelompok kecil orang atau bahkan individu. Jika sebelumnya untuk itu dibutuhkan tahun belajar dan akses ke bahan-bahan yang kompleks, maka sekarang AI dapat mengambil bagian yang besar dari pekerjaan intelektual.

Pada tahun 2026, perusahaan Anthropic menerbitkan laporan yang mendeskripsikan lima kasus yang nyata, ketika para peneliti dari berbagai negara menggunakan model nya untuk pekerjaan biologis yang potensial berbahaya. Khususnya, salah satu pengguna berencana menggunakan AI untuk mencari mutasi virus chikungunya yang meningkatkan kemampuan nya untuk menyebar dan menghindari kekebalan imun. Peneliti lain bekerja untuk mengadaptasi flu burung patogen tinggi ke mamalia, yang dapat memperkuat potensial wabah nya.

ketika model menolak untuk menanggapi permintaan yang berbahaya, para pengguna menemukan jalan pengeluaran. Dalam satu kasus, permintaan dipindahkan ke model lain dengan konfigurasi yang kurang ketat, dan akses ke sistem melalui platform yang berbeda untuk menghindari batasan geografis.

Bagaimana hal ini dapat terjadi: urutan peristiwa

Teknik skenario kemenangan dapat terlihat seperti ini.

1. Pengenerate desain. AI, pelatihan dengan mass data biologis yang besar, merancang genom patogen baru. Saat ini sudah ada eksperiemen di mana AI menciptakan virus yang berfungsi dari nol, yang membuktikan kemungkinan generasi urutan genetik yang hidup.
2. Optimasi sifat. Model dapat memberikan petunjuk tentang spesifik mutasi yang perlu dicantumkan untuk membuat virus yang menular atau tahan terhadap vaksin dan obat yang ada.
3. Sintesis dan pengumpulan. Desain diirikan ke laboratorium untuk sintesis DNA. Ini adalah tahap fisik yang paling sulit, memerlukan peralatan dan bahan, tetapi AI dapat membantu dalam perencanaan logistik dan bahkan pemask lanjut permintaan sintesis urutan yang berbahaya.
4. Penyebaran. Patogen siap yang disemprotkan atau disebarkan ke populasi yang dituju.

Bagaimana hal ini sulit tapi bukan tak mungkin

Pada jalan untuk melaksanakan skenario ini ada batasan yang serius.

Batasan fisik: AI tidak dapat membuat virus di dalam cangkang sendiri. Untuk itu perlu laboratorium nyata, peralatan dan bahan. Para ahli mencatat bahwa untuk menciptakan virus yang berbahaya bagi manusia bukan bakteri, memerlukan upaya, waktu dan uang yang besar.

Tak tentu kebiakan biologis: sistem biologis bersifat anarkis. Patogen yang disusun dapat mutasi, kehilangan letalitas atau, yang lebih buruk, kembali ke pencipta nya. Ini adalah karena tak tentu kebiakan ini sebagian besar negara mengurangi program biologis menyerang.

Batasan perlindungan: perusahaan yang mengembangkan AI sudah melaksanakan filter untuk memblokir permintaan yang berbahaya. Namun, seperti yang ditunjukkan dalam laporan, filter ini dapat dilewati dan tidak selalu efektif melawan penyerang yang berkeberatan.

Apa yang dapat diterima

Ahliseperti diri mengingat bahwa pencegahan multilapis diperlukan. Sedang saat ini disebutkan berbagai pendekatan.

• Pemindaian pengembangan gen. Perusahaan yang menjual sintesis DNA harus memeriksa apakah klien memesan urutan yang berbahaya.
• Regulasi internasional. Konvensi tentang senjata biologis yang ada sudah ketinggalan waktu dan tidak mengukur tantangan AI. Diperlukan kontrak baru yang mencakup model AI dan bahan biologis.
• Peringatan dini. Membuat sistem pengamatan yang cepat untuk mendeteksi wabah penyakit baru, yang dapat bertindak sebagai faktor penahan.

Demikian pula, AI sendiri tidak menciptakan senjata biologis, tetapi ia adalah pempercepat dan penasehat yang kuat bagi mereka yang mempunyai keinginan dan akses ke laboratorium. Risiko terletak pada batasan masuk ke bidang ini yang mengejutkan rendah.

Permanent link to this publication: