Penjelasan-Risiko apa yang ditimbulkan oleh type AI tingkat lanjut jika berada di tangan yang salah? Oleh Reuters

Oleh Alexandra Alper

WASHINGTON (Reuters) – Pemerintahan Biden siap untuk membuka entrance baru dalam upayanya melindungi AI AS dari Tiongkok dan Rusia dengan rencana awal untuk menempatkan pagar pembatas di sekitar type AI paling canggih, Reuters melaporkan pada hari Rabu.

Peneliti dari pemerintah dan sektor swasta khawatir bahwa musuh AS akan menggunakan type tersebut, yang menambang teks dan gambar dalam jumlah besar untuk meringkas informasi dan menghasilkan konten, untuk melakukan serangan siber yang agresif atau bahkan membuat senjata biologis yang ampuh.

Berikut beberapa ancaman yang ditimbulkan oleh AI:

DEEPFAKES DAN INFORMASI YANG SALAH

Deepfakes – video realistis namun dibuat-buat yang dibuat dengan algoritma AI yang dilatih berdasarkan rekaman on-line yang berlebihan – muncul di media sosial, mengaburkan fakta dan fiksi dalam dunia politik AS yang terpolarisasi.

Meskipun media sintetik tersebut telah ada selama beberapa tahun, media ini telah mengalami peningkatan selama setahun terakhir dengan banyaknya alat “AI generatif” baru seperti Midjourney yang menjadikannya murah dan mudah untuk membuat deepfake yang meyakinkan.

Alat pembuatan gambar yang didukung oleh kecerdasan buatan dari perusahaan termasuk OpenAI dan Microsoft (NASDAQ :), dapat digunakan untuk menghasilkan foto yang dapat mempromosikan disinformasi terkait pemilu atau pemungutan suara, meskipun masing-masing perusahaan memiliki kebijakan untuk melarang pembuatan konten yang menyesatkan, kata para peneliti dalam sebuah laporan pada bulan Maret. .

Beberapa kampanye disinformasi hanya memanfaatkan kemampuan AI untuk meniru artikel berita nyata sebagai sarana menyebarkan informasi palsu.

Meskipun platform media sosial besar seperti Fb (NASDAQ :), Twitter, dan YouTube telah melakukan upaya untuk melarang dan menghapus deepfake, efektivitas mereka dalam mengawasi konten tersebut berbeda-beda.

Misalnya, tahun lalu, sebuah situs berita yang dikendalikan pemerintah Tiongkok yang menggunakan platform AI generatif menyebarkan klaim palsu yang sebelumnya beredar bahwa Amerika Serikat menjalankan laboratorium di Kazakhstan untuk membuat senjata biologis untuk digunakan melawan Tiongkok, menurut Departemen Keamanan Dalam Negeri (DHS). ) mengatakan dalam penilaian ancaman dalam negeri pada tahun 2024.

Penasihat Keamanan Nasional Jake Sullivan, saat berbicara di sebuah acara AI di Washington pada hari Rabu, mengatakan permasalahan ini tidak memiliki solusi yang mudah karena menggabungkan kapasitas AI dengan “niat negara, aktor non-negara, untuk menggunakan disinformasi dalam skala besar, untuk mengganggu demokrasi, untuk memajukan propaganda, untuk membentuk persepsi di dunia.”

“Saat ini pelanggarannya mengalahkan pertahanan secara besar-besaran,” katanya.

BIOWEAPON

Komunitas intelijen Amerika, lembaga pemikir, dan akademisi semakin khawatir akan risiko yang ditimbulkan oleh pelaku kejahatan asing yang mendapatkan akses terhadap kemampuan AI yang canggih. Para peneliti di Gryphon Medical dan Rand Company mencatat bahwa type AI yang canggih dapat memberikan informasi yang dapat membantu menciptakan senjata biologis.

Gryphon mempelajari bagaimana type bahasa besar (LLM) – program komputer yang mengambil teks dalam jumlah besar untuk menghasilkan respons terhadap pertanyaan – dapat digunakan oleh aktor yang bermusuhan untuk menimbulkan kerugian dalam bidang ilmu kehidupan dan menemukan bahwa type tersebut “dapat memberikan informasi yang dapat membantu aktor jahat dalam menciptakan senjata biologis dengan memberikan informasi yang berguna, akurat, dan terperinci di setiap langkah dalam jalur ini.”

Mereka menemukan, misalnya, bahwa LLM dapat memberikan pengetahuan tingkat pasca-doktoral untuk memecahkan masalah ketika menangani virus yang berpotensi menjadi pandemi.

Penelitian Rand menunjukkan bahwa LLM dapat membantu dalam perencanaan dan pelaksanaan serangan biologis. Mereka menemukan bahwa LLM misalnya dapat menyarankan metode pengiriman aerosol untuk toksin botulinum.

SENJATA SIBER

DHS mengatakan pelaku siber kemungkinan akan menggunakan AI untuk “mengembangkan alat baru” guna “memungkinkan serangan siber berskala lebih besar, lebih cepat, efisien, dan lebih mengelak” terhadap infrastruktur penting termasuk jaringan pipa dan kereta api, dalam penilaian ancaman dalam negeri pada tahun 2024.

Tiongkok dan negara-negara musuh lainnya sedang mengembangkan teknologi AI yang dapat melemahkan pertahanan siber AS, kata DHS, termasuk program AI generatif yang mendukung serangan malware.

Microsoft mengatakan dalam laporan bulan Februari bahwa mereka telah melacak kelompok peretas yang berafiliasi dengan pemerintah Tiongkok dan Korea Utara serta intelijen militer Rusia, dan Garda Revolusi Iran, ketika mereka mencoba menyempurnakan kampanye peretasan mereka menggunakan type bahasa besar.

Perusahaan mengumumkan temuan tersebut ketika mereka meluncurkan larangan menyeluruh terhadap kelompok peretas yang didukung negara menggunakan produk AI-nya.

UPAYA BARU UNTUK MENGATASI ANCAMAN

Sekelompok anggota parlemen bipartisan meluncurkan rancangan undang-undang pada Rabu malam yang akan memudahkan pemerintahan Biden untuk menerapkan kontrol ekspor pada type AI, dalam upaya untuk melindungi teknologi berharga AS dari pelaku kejahatan asing.

RUU tersebut, yang disponsori oleh anggota DPR dari Partai Republik Michael McCaul dan John Molenaar serta anggota Partai Demokrat Raja Krishnamoorthi dan Susan Wild, juga akan memberikan wewenang tegas kepada Departemen Perdagangan untuk melarang orang Amerika bekerja dengan orang asing untuk mengembangkan sistem AI yang menimbulkan risiko terhadap keamanan nasional AS.

Tony Samp, penasihat kebijakan AI di DLA Piper di Washington, mengatakan para pembuat kebijakan di Washington sedang mencoba untuk “mendorong inovasi dan menghindari peraturan yang kaku yang menghambat inovasi” ketika mereka berupaya mengatasi banyak risiko yang ditimbulkan oleh teknologi tersebut.

Namun ia memperingatkan bahwa “menindak pengembangan AI melalui regulasi dapat menghambat potensi terobosan di bidang-bidang seperti penemuan obat, infrastruktur, keamanan nasional, dan lainnya, serta memberikan peluang bagi pesaing di luar negeri.”