KABARINDO, JAKARTA -- Saat pemilih mengantri untuk memberikan hak suara mereka dalam pemilihan legislatif untuk memilih pemerintahan Negara Bagian Telangana, India, pada 30 November tahun lalu, muncul video tujuh menit yang viral di media sosial.
Video itu diunggah Partai Kongres yang merupakan partai oposisi pemerintah nasional dan Telangana ketika itu. Video tersebut menunjukkan ketua Partai Bharat Rashtra Samiti yang berkuasa saat itu KT Rama Rao mengajak pemilih memilih Partai Kongres.
Seorang pemimpin senior Partai Kongres yang tidak bersedia disebutkan namanya mengatakan awalnya video itu hanya dibagikan di grup-grup WhatsApp "tidak resmi" partai. Tapi akhirnya diunggah di akun resmi media sosial X partai tersebut dan dilihat sebanyak 50 juta kali.
Ternyata video itu palsu. "Tentu menggunakan teknologi kecerdasan artifisial (AI) meski terlihat sangat nyata," kata pimpinan Partai Kongres tersebut pada Aljazirah.
"Namun normal bila pemilih tidak bisa membedakannya, pemungutan suara sudah dimulai ketika video itu diunggah dan tidak ada waktu untuk menggelar kampanye tandingan untuk mengendalikan kerusakan," tambahnya.
Deepfake yang diunggah di waktu yang tepat itu menandai banjirnya kampanye yang dihasilkan atau dimanipulasi AI yang merusak berbagai pemilihan di negara-negara bagian India beberapa bulan terakhir. AI juga dianggap menjadi ancaman bagi pemilihan umum yang akan datang.
Antara Maret sampai Mei, hampir satu miliar pemilih yang akan memilih pemerintah berikutnya dalam pemilihan umum terbesar sepanjang sejarah India. Pada November 2023, Menteri Teknologi Informasi India Ashwini Vaishnaw menyebut deepfakes "ancaman bagi demokrasi." Perdana Menteri India Narendra Modi juga menyuarakan keprihatinan serupa.
Namun tim yang menggelar 40 kampanye baru-baru ini mengatakan karena banyaknya alat AI yang berguna, banyak tim kampanye di berbagai partai politik India termasuk partai yang dipimpin Modi, Bharatiya Janata (BJP) dan Partai Kongres menggunakan deepfake untuk mempengaruhi pemilih.
Beberapa perangkat lunak untuk memproduksi gambar deepfake bersifat gratis sementara beberapa lainnya menawarkan layanan berlangganan yang paling murah 10 sen dolar AS per video. BJP dianggap partai dengan teknologi yang paling canggih di India.
Partai berkuasa itu menjadi garda depan dalam penggunaan teknologi ilusi di kampanye. Pada tahun 2012 lalu BJP menggunakan proyeksi hologram tiga dimensi yang membuat seakan-akan Modi menggelar "kampanye" di berbagai tempat di waktu yang sama. Strategi serupa dilakukan pada pemilihan umum 2014 yang membawa Modi ke tampuk kekuasaan.
Tidak banyak penipuan dalam kampanye itu tapi pada Februari 2020, anggota parlemen BJP Manoj Tiwari menjadi politisi pertama di dunia yang menggunakan deepfake untuk kampanye. Ia merilis tiga video dalam bahasa bahasa Hindi, Haryanvi dan Inggris untuk kampanye pemilihan anggota legislatif di kota Dehli, untuk meraup suara dari tiga kelompok yang berbeda.
Hanya video berbahasa Hindi yang asli. Dua bahasa lainnya merupakan deepfake. Ia menggunakan AI untuk menghasilkan suara dan kata-kata sementara ekspresi wajah dan gerakan bibir hampir mustahil untuk mendeteksi video itu dihasilkan AI.
Beberapa bulan terakhir Partai Dravida Munnetra Kazhagam (DMK) yang menguasai Negara Bagian Tamil Madu juga menggunakan AI untuk membangkitkan kembali pemimpin ikoniknya M Karunanidhi dari kematian. DMK menggunakan deepfake Karunanidhi dalam kegiatan-kegiatan kampanyenya.
Kini tim dan konsultan kampanye mengatakan pemilihan umum 2024 akan mendorong penggunaan deepfake lebih jauh lagi. "Politik adalah tentang menciptakan persepsi, dengan alat-alat AI, modulasi suara dan video dan klik, anda bisa mengubah persepsi di kepala dalam hitungan menit," kata koordinator media sosial Partai Kongres, Arun Reddy.
Ia yang memimpin kampanye Partai Kongres di Negara Baigan Telengana. Reddy menambahkan, timnya memiliki banyak ide untuk menggunakan AI dalam kampanye tapi mereka tidak memiliki cukup banyak orang yang "terlatih" untuk melakukan semuanya. Reddy sedang memperkuat timnya.
"AI memberi efek besar dalam menciptakan narasi, konten politik yang dimanipulasi AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya,” tambahnya. Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun yang berusia 30 tahun mengelola perusahaan rintisan AI, The Indian Deepfaker. Red dari berbagai sumber
