Chatbot AI Bantu Mahasiswa Cari Patogen Mematikan, Bisa Disebarkan untuk Picu Pandemi Baru

REPUBLIKA.CO.ID, JAKARTA -- Munculnya kecerdasan buatan (AI) memunculkan kekhawatiran bahwa teknologi ini akan mengambil alih pekerjaan orang. Di sisi lain, teknologi seperti chatbot AI juga dapat membantu menemukan patogen pandemi baru.

Axios melaporkan penelitian baru menunjukkan bahwa chatbot berpotensi berkontribusi pada bioterorisme, membantu merancang virus yang mampu menyebabkan pandemi berikutnya. Ilmuwan dari Massachusetts Institute of Technology (MIT) dan Harvard di Cambridge, Massachusetts menugaskan mahasiswa untuk menyelidiki kemungkinan sumber pandemi masa depan dengan menggunakan bot, seperti ChatGPT.

Itu adalah model AI yang dapat memberikan jawaban percakapan untuk pertanyaan tentang berbagai topik menggunakan basis data pengetahuan ensiklopedis. Dikutip dari Insider, Rabu (5/7/2023), mahasiswa menghabiskan waktu satu jam untuk bertanya kepada chatbot tentang topik seperti patogen berkemampuan pandemi, transmisi, dan akses ke sampel patogen.

Bot dengan mudah memberikan contoh virus berbahaya yang akan sangat efisien dalam menyebabkan kerusakan yang meluas, mengingat tingkat kekebalan masyarakat yang rendah, sementara tingkat penularannya tinggi. Bot, misalnya, menyarankan variola major alias virus cacar.

Alasannya, cacar dapat menyebar luas karena kurangnya vaksinasi saat ini dan virus serupa yang mungkin memberikan kekebalan. Selain itu, bot membantu memberi saran kepada mahasiswa tentang bagaimana mereka dapat menggunakan genetika terbalik untuk menghasilkan sampel infeksius.

Bot juga bahkan memberikan saran...

Bot juga bahkan memberikan saran tempat membeli peralatan yang dibutuhkan. Dalam sebuah makalah yang meringkas proyek, para peneliti mencatat bahwa chatbot belum mampu membantu seseorang tanpa keahlian insinyur perang biologis penuh.

Pakar bioteknologi memberi tahu Axios bahwa ancaman tersebut dapat diimbangi dengan menggunakan AI untuk merancang antibodi yang dapat melindungi orang dari wabah di masa mendatang. Namun, para peneliti menulis bahwa hasil percobaan "menunjukkan bahwa AI dapat memperburuk risiko biologis bencana".

Mereka juga mengingatkan, potensi kematian virus tingkat pandemi dapat dibandingkan dengan senjata nuklir. Para mahasiswa juga merasa mudah untuk menghindari pengamanan saat ini yang dibuat untuk mencegah chatbot memberikan informasi berbahaya kepada aktor jahat.

Peneliti pun menyimpulkan, tindakan pencegahan yang lebih ketat diperlukan untuk menekan informasi sensitif yang dibagikan melalui AI.