Selain memudahkan kehidupan manusia, teknologi kecerdasan buatan generatif (GenAI) turut membawa risiko serius berupa penipuan digital, hoaks, hingga ancaman terhadap demokrasi. Kolaborasi semua sektor dan pengembangan kapasitas berpikir kritis warga pun didorong untuk mengantisipasi efek negatif akal imitasi.
Hal itu terungkap dalam ajang Information Resilience and Integrity Symposium (IRIS), sebuah forum akademik dan kebijakan internasional, yang digelar oleh Centre for Strategic and International Studies (CSIS) melalui Safer Internet Lab (SAIL) bersama Center for Digital Society (CfDS), di Fakultas Ilmu Sosial dan Ilmu Politik Universitas Gadjah Mada (FISIPOL UGM), 21 Agustus 2025.
Simposium ini dirancang untuk membahas bagaimana kawasan Asia-Pasifik dapat bersama menghadapi gelombang inovasi teknologi sekaligus menjaga integritas dan ketahanan ruang digital.
Direktur Eksekutif CSIS Dr. Yose Rizal Damuri menekankan bahwa risiko dari teknologi AI mencakup penipuan finansial, manipulasi informasi asing, hingga ancaman terhadap privasi dan integritas demokrasi. Untuk menjawab tantangan ini, CSIS melalui SAIL, menyelenggarakan IRIS, sebuah platform lintas sektor yang menjembatani kajian akademis dengan kebijakan untuk mendukung rekomendasi berbasis data.
- MK Putuskan Foto AI Tak Boleh Dipakai Berlebihan untuk Kampanye Pemilu
- Waspada Fenomena Hoaks Deepfake AI, Ini Ciri-cirinya
“Kita perlu mencari cara untuk menyeimbangkan risiko, sembari memaksimalkan manfaat [dari AI],” ujar dia, dalam acara yang dibuka oleh Prof. Wening Udasmoro, Wakil Rektor UGM, itu.
Risiko-risiko AI itu terungkap dalam sejumlah penelitian. Riset yang dilakukan oleh Safer Internet Lab (SAIL) menunjukkan AI berpotensi memperbesar penyebaran misinformasi yang mengancam demokrasi, mendorong penipuan daring yang merugikan ekonomi digital, bahkan memengaruhi geopolitik melalui praktik Foreign Information Manipulation and Intervention (FIMI) di kawasan Asia-Pasifik.
Senada, penelitian dari Center for Digital Society (CfDS) juga menyoroti hal serupa mengenai risiko penggunaan AI dalam Pemilu 2024.
Prof. Ang Peng Hwa, Guru Besar di Wee Kim Wee School of Communication and Information, Nanyang Technological University, Singapura, memaparkan risiko penggunaan AI, mulai dari berkurangnya keragaman pengalaman budaya dan personal, hingga meningkatnya ketergantungan yang melemahkan kapasitas berpikir kritis.
“AI telah terkonvergensi ke satu titik. Ini lah masalahnya dengan GenAI,” ujar dia, saat berbicara dalam simposium tersebut.
Ang menuturkan AI adalah mesin prediktif. Karenanya, ia mengumpul ke satu titik, menjadi satu angka, satu kata, satu gambar. Sifat AI yang seperti ini berpotensi menimbulkan risiko terhadap keunikan pengalaman manusia.
Dia pun menekankan perlunya pendekatan lintas sektor yang melibatkan pemerintah, bisnis, akademisi, masyarakat sipil, hingga kelompok keagamaan agar AI dapat mendukung ketahanan sosial.
Dalam sesi dialog strategis, Visiting Fellow dan Co-Coordinator Media, Technology and Society Programme di ISEAS–Yusof Ishak Institute, Maria Monica Wihardja, menyoroti pentingnya pendekatan berbasis manusia (human-centric approach) dalam pengembangan dan regulasi AI.
“Teknologi itu netral. Teknologi tidak memiliki nilai. Kita lah yang memasukkan nilai ke dalam teknologi,” ujarnya.
Wijaya, Staf Ahli di Kementerian Komunikasi dan Digital (Komdigi), menekankan pentingnya pengembangan manusia seiring dengan perkembangan teknologi.
“Ketika berbicara soal teknologi, alih-alih berpikir soal infrastruktur, kita perlu mengembangkan manusianya. Isunya saat ini adalah bagaimana kita dapat mendahulukan manusia sebelum teknologi,” jelas Wijaya.
Antusiasme terhadap AI
Dalam ajang yang sama, Menteri Komunikasi dan Digital Meutya Viada Hafid menyoroti tingginya antusiasme masyarakat terhadap adaptasi AI di Indonesia. Pemerintah Indonesia pun berkomitmen untuk memanfaatkan reaksi positif ini sambil menavigasi risiko yang ada.
“Tugas kita adalah untuk memanfaatkan optimisme ini dengan bertanggung jawab,” ucapnya.
Untuk itu, perlu pengembangan sumber daya manusia yang lebih baik. “Teknologi saja tidak dapat membangun masa depan, manusialah yang membangunnya,” tegas Meutya.
Selain sesi pleno, IRIS juga menghadirkan empat panel tematik mengenai isu-isu mendesak: penipuan finansial berbasis GenAI, pengawasan dan privasi dalam pembangunan digital, respons regional terhadap manipulasi informasi asing, serta peran informasi dalam menjaga ketahanan demokrasi.
Melalui diskusi ini, IRIS berupaya meningkatkan kesadaran publik atas peluang dan risiko GenAI, memperkuat dialog lintas sektor, serta mendiseminasikan hasil riset SAIL dan para mitranya sebagai rujukan penting bagi pembuat kebijakan.
