Pemerintah Nepal secara tegas menuntut raksasa media sosial Meta dan TikTok untuk segera menghapus konten hoaks berbasis kecerdasan buatan (AI) yang tersebar pascabanjir bandang mematikan di negara tersebut. Desakan ini tidak hanya berhenti pada penghapusan konten, tetapi juga menyerukan perbaikan fundamental pada algoritma platform agar mampu secara otomatis memblokir penyebaran informasi berbahaya yang mengancam keselamatan publik dan menghambat upaya penanganan bencana. Tekanan ini muncul menyusul gelombang misinformasi yang berpotensi memperburuk krisis kemanusiaan di wilayah terdampak.
### Bahaya Misinformasi AI di Tengah Bencana
Misinformasi, khususnya yang diperparah dengan teknologi AI, terbukti sangat berbahaya dalam situasi krisis seperti bencana alam. Konten hoaks dapat menyebabkan kepanikan massal, menyebarkan informasi palsu mengenai lokasi aman, jalur evakuasi, atau titik distribusi bantuan, yang pada akhirnya mengganggu upaya penyelamatan dan bantuan kemanusiaan. Dalam kasus banjir bandang Nepal, penyebaran hoaks AI berpotensi memicu kebingungan di kalangan korban dan tim penyelamat, bahkan berujung pada korban jiwa yang tidak perlu.
* Gangguan Upaya Penyelamatan: Informasi palsu tentang rute evakuasi atau lokasi teraman dapat menyesatkan korban dan menghambat akses tim penyelamat.
* Penyebaran Kepanikan: Berita bohong mengenai skala bencana atau ancaman tambahan dapat menimbulkan histeria publik yang tidak terkendali.
* Erosi Kepercayaan: Misinformasi yang terus-menerus dapat merusak kepercayaan masyarakat terhadap sumber informasi resmi dan upaya pemerintah.
* Ancaman Keamanan: Hoaks AI juga bisa dimanfaatkan untuk memicu kekerasan atau penjarahan, memperburuk situasi keamanan yang sudah genting.
Penggunaan AI dalam penciptaan hoaks, seperti *deepfake* atau narasi yang dihasilkan secara otomatis, membuatnya semakin sulit dibedakan dari informasi asli. Kecepatan penyebarannya melalui platform digital juga jauh melampaui kemampuan moderasi manusia, membutuhkan solusi teknologi yang lebih canggih.
### Tuntutan Kunci: Hapus Konten dan Perbaiki Algoritma
Tuntutan Nepal kepada Meta, sebagai induk Facebook dan Instagram, serta TikTok, mencerminkan frustrasi global terhadap lambatnya respons platform media sosial dalam mengatasi penyebaran informasi berbahaya. Pemerintah Nepal tidak sekadar meminta penghapusan konten secara reaktif; mereka menuntut perubahan sistemik. Perbaikan algoritma diharapkan dapat mengidentifikasi, menandai, dan memblokir hoaks AI secara proaktif sebelum menyebar luas.
“Kami tidak bisa lagi hanya mengandalkan pelaporan manual dan penghapusan setelah kerusakan terjadi,” ujar seorang pejabat senior pemerintah Nepal dalam sebuah pernyataan. “Platform seperti Meta dan TikTok memiliki teknologi dan sumber daya untuk mengembangkan sistem yang lebih cerdas dan responsif. Mereka harus memprioritaskan keselamatan pengguna di atas segalanya, terutama dalam kondisi darurat.”
Ini bukan pertama kalinya platform raksasa ini menghadapi tekanan serupa. Selama pandemi COVID-19 dan berbagai bencana alam di belahan dunia lain, Meta dan TikTok telah berkali-kali dikritik karena penanganan misinformasi yang dinilai tidak konsisten atau tidak memadai. Kebijakan krisis Meta sendiri, yang menyatakan komitmen mereka untuk mengurangi penyebaran misinformasi dan konten berbahaya selama krisis, kerap dipertanyakan efektivitasnya di lapangan. (Pelajari lebih lanjut tentang kebijakan krisis Meta)
### Tanggung Jawab Platform dan Tantangan Global
Desakan dari Nepal ini menggarisbawahi tantangan yang lebih luas terkait akuntabilitas platform media sosial. Banyak negara, terutama di Asia dan Afrika, seringkali merasa kebijakan moderasi konten global yang diterapkan oleh Meta dan TikTok kurang sensitif terhadap konteks lokal dan bahasa, membuat hoaks berbahasa lokal lebih sulit dideteksi dan dihapus. Insiden di Nepal ini menambah daftar panjang seruan bagi Meta dan TikTok untuk berinvestasi lebih banyak dalam sumber daya lokal dan teknologi AI yang mampu memahami nuansa budaya dan linguistik.
Perdebatan tentang siapa yang bertanggung jawab atas penyebaran hoaks di platform digital terus berlanjut. Sementara Meta dan TikTok berpendapat bahwa mereka adalah platform netral, pemerintah di seluruh dunia semakin mendesak mereka untuk bertindak sebagai penerbit yang bertanggung jawab, dengan kewajiban untuk memastikan informasi yang disebarkan di platform mereka aman dan akurat, terutama di masa krisis. Tanpa tindakan proaktif dan perbaikan algoritma yang signifikan, insiden hoaks AI yang mengancam keselamatan publik di tengah bencana kemungkinan akan terus berulang.
