Fenomena penggunaan AI oleh kelompok teroris mulai mencuat di tahun 2024. Mungkin sebelumnya mereka telah menggunakannya namun beritanya tidak muncul ke publik. Dalam catatan kami, penggunaan AI oleh kelompok teroris yang terungkap ke publik yang paling menonjol adalah program “News Harvest” yang diproduksi oleh kelompok Islamic State (ISIS) pada akhir Maret 2024.
Mengutip dari Washington Post (17/5/2024) yang bersumber dari laporan SITE Intelligent Group berjudul “Extremist Movements are Thriving as AI Tech Proliferates”, diketahui ISIS menyebarkan video propaganda berjudul “News Harvest”. Dengan menggunakan teknik seperti Deepfake dan Generative Adversarial Networks (GANs), ISIS mampu membuat video yang menampilkan jurnalis buatan yang tampak nyata dan kredibel.
Video berdurasi 92 detik yang beredar 5 hari setelah serangan teror di sebuah konser di gedung teater Crocus City Hall Rusia (22/3/2024) itu menampilkan seorang pembaca berita dalam helm dan pakaian militer, yang mengklaim bahwa serangan teror di Rusia bukanlah tindakan teroris. Tetapi merupakan bagian dari “konteks normal” perang antara ISIS dan negara-negara yang memerangi Islam. Video ini adalah contoh jelas bagaimana AI dapat digunakan untuk membuat konten yang seolah-olah sahih dan meyakinkan, menyebar melalui platform online dan mempengaruhi audiens yang rentan.
Hanya perlu beberapa detik untuk menyadari bahwa jurnalis dalam video itu adalah karakter yang dihasilkan AI. Petunjuk kuatnya terletak pada apa yang dia baca, yaitu bersumber dari rilisan kantor berita milik ISIS ‘Amaq pada 23 Maret 2024. Lima video "News Harvest" lainnya juga dikabarkan telah beredar setelah itu.
Video semacam itu mungkin tampak tidak mengejutkan dalam penyalahgunaan AI hari ini untuk produksi berita palsu, deepfake selebriti, robocalls (panggilan yang dilakukan oleh robot AI), dan penipuan. Namun video-video ini adalah perkembangan terbaru yang mengganggu dari kelompok ekstremis (teroris) yang memanfaatkan AI dari produksi propaganda hingga panduan pembuatan bom.
Sulit memungkiri bahwa AI juga menjadi “hadiah besar” untuk para teroris dan komunitas ekstremis, di mana media propaganda adalah sumber kehidupan bagi kelompok mereka. Produksi konten yang dulu memakan waktu berminggu-minggu, bahkan berbulan-bulan untuk membuat karya mereka melalui tim penulis, editor, editor video, penerjemah, desainer grafis, atau narator, sekarang dapat dibuat dengan alat AI oleh satu orang dalam beberapa jam.
Di Indonesia fenomena penggunaan AI dalam proses radikalisasi yang terungkap ke publik adalah pada pengungkapan kasus terduga teroris yang ditangkap di Batu, Jawa Timur (31/7/2024). Dalam keterangan pers yang disampaikan oleh juru bicara Densus 88 AT, Kombes Pol Aswin Siregar (5/8/2024), terduga teroris Batu HOK (19 tahun) mulai mengikuti media sosial pendukung ISIS pada November 2023. Hanya butuh 8 bulan untuk membuat HOK siap melakukan bom bunuh diri dengan bom yang dirakitnya sendiri.
“Karena yang bersangkutan masih penasaran kemudian dia bergabung lagi ke dalam beberapa grup telegram kelompok-kelompok radikal yang lintas negara lintas negara. Jadi kami kira dengan kemudahan translasi atau penerjemahan AI (Artificial Intelligence) bahasa komunikasi bukan lagi menjadi masalah”, sebut Kombes Aswin dalam penjelasannya.
Fenomena anak muda yang ter-radikalisasi dalam waktu singkat ini tidak terlepas dari gencarnya penyebaran konten propaganda di media sosial yang dilakukan oleh para pengikut ISIS dari seluruh dunia. Setelah ISIS kehilangan wilayah kekuasaannya di Irak dan Suriah, para pengikutnya di seluruh dunia melakukan segala cara untuk mempertahankan eksistensi ISIS, minimal eksistensi di dunia maya.
Baca juga: Media Sosial, Kecerdasan Buatan, dan Radikalisasi Di Ranah Digital
Khilafah Dunia Maya
Hilangnya otoritas geografis ISIS di Irak dan Suriah membuat ISIS kemudian mengalihkan operasi dan sumber daya mereka ke kelompok cabang mereka di wilayah lain sebagai bentuk adaptasi. Kehilangan wilayah fisik juga berarti bahwa mereka harus mengintensifkan eksistensi mereka di dunia maya untuk melanjutkan perjuangan ideologis mereka dan mengoordinasikan operasi mereka.
ISIS membutuhkan platform yang memfasilitasi distribusi ideologi mereka yang cepat dan efektif. Akibatnya, media sosial menjadi instrumen yang dipandang efektif untuk menyebarkan pengaruh mereka. Platform seperti TikTok, X (sebelumnya Twitter), dan Telegram menciptakan lingkungan yang secara signifikan menguntungkan kelompok seperti ISIS dalam operasi mereka.
Platform media sosial ini memungkinkan ISIS untuk terhubung dengan audiens yang lebih muda, global, dan rentan. TikTok kemudian muncul sebagai platform yang sangat efektif bagi ISIS untuk menyebarkan narasinya. Fitur TikTok, khususnya algoritma For You Page (FYP) yang dirancang untuk menyelaraskan dengan perilaku pengguna, menjadikan konten propaganda ISIS bisa lebih efektif dalam mencapai audiens yang dituju.
Dalam propagandanya, ISIS biasanya memperkuat berita tentang serangan teror di negara lain, menggunakannya sebagai bagian dari strategi propaganda mereka yang lebih luas. Mereka berusaha untuk menghubungkan tindakan kekerasan yang dilakukan oleh pengikut ISIS di berbagai negara sebagai bagian dari agenda global mereka, yaitu memperkuat gagasan jihad transnasional. Misalnya, video TikTok yang ditemukan dalam Bahasa Indonesia dengan logo “Tamkin Indonesia” menampilkan berita tentang serangan penusukan di Solingen, Jerman, yang terjadi pada 23 Agustus 2024. Video tersebut mempromosikan narasi yang mengagungkan serangan itu sebagai tindakan heroik dan bentuk oposisi terhadap negara-negara Barat.
Video TikTok yang masuk FYP akan memiliki potensi untuk mendapatkan pengakuan luas yang cepat dan menarik perhatian pengguna yang mungkin telah menemukannya tanpa sengaja. Ini memberi ISIS mekanisme yang signifikan untuk memengaruhi algoritma individu, sehingga meningkatkan peluang penyebaran propaganda mereka.
Pengguna yang terus berinteraksi dengan konten terkait akan lebih sering terpapar propaganda melalui rekomendasi algoritmik, yang secara otomatis meningkatkan "keterlibatan" konten tersebut. Interaksi dalam bentuk suka, komentar, atau berbagi akan memperkuat siklus ini, menjebak pengguna lebih dalam ke dalam lingkungan radikalisasi online.
Selain produksi konten propaganda, yang juga patut kita khawatirkan adalah AI dalam bentuk chat box yang bisa dimanipulasi untuk mengajarkan cara membuat bahan peledak. Pada pertengahan 2023, chanel Telegram kelompok ekstremis neo-Nazi membagikan tangkapan layar chat box AI di Telegram yang ditipu untuk memberikan panduan membuat bahan peledak.
Dari semua perkembangan penggunaan teknologi dalam penyebaran ideologi dan propaganda yang dilakukan oleh kelompok ekstremis/teroris, mulai dari website, mailing list, forum jihad online, media sosial, dan terakhir AI, kami menilai penggunaan AI akan menjadi yang paling menakutkan di masa depan.
Dalam produksi propaganda saja misalnya, apa pun dari propaganda ISIS dapat diterjemahkan ke dalam sejumlah bahasa yang berbeda dengan akurasi yang tinggi. Teknologi ini dapat lebih membantu mereka membuat konten yang disesuaikan untuk budaya, geografi, dan arus politik dari audiens mereka, serta membantu menyebarkannya secara strategis. Semua bisa dilakukan oleh satu orang dalam beberapa jam.
Hari ini mungkin AI baru digunakan untuk kemudahan translasi dan produksi dalam propaganda yang mereka buat, tetapi di masa depan AI juga memungkinkan kelompok ekstremis/teroris untuk tidak hanya menyebarkan paham atau ideologinya. Lebih dari itu, AI bisa dimanfaatkan untuk memaksimalkan strategi dan aksi kekerasan atau teror di lapangan. Bayangkan, jika suatu saat nanti mereka menyerang menggunakan drone pintar yang membawa bom atau memanipulasi kendaraan otonom untuk menyerang targetnya. Bukankah itu akan sangat mengerikan?
Ilustrasi: By AI (Leonardo.ai)
Komentar