Facebook sebagai perusahaan media sosial global mengalami dilema tersendiri akibat peristiwa penembakan dua masjid di New Zealand. Pasalnya, sang pelaku secara sengaja melakukan live streaming di Facebook ketika melakukan aksi keji tersebut. Selama 17 menit tragedi berlangsung, video memilukan tersebut ditonton sebanyak 4000 kali sebelum akhirnya dihapus oleh Facebook.

Meski video asli sudah dihapus, penyebaran video ternyata terus berlangsung. Facebook mengaku sudah memblokir 1,2 juta video sebelum video keji tersebut bisa diunggah di platformnya. Namun, masih ada 300 ribu video yang lolos meski kemudian akhirnya terdeteksi dan dihapus. Penyebaran video juga terjadi di platform media sosial lain. YouTube menyebut, pada jam-jam pertama setelah berita penembakan tersebut viral, video penembakan diunggah pengguna tiap satu detik. Neil Mohan, Chief Product Office YouTube, menyebut timnya harus bekerja semalaman untuk mendeteksi video soal penembakan.



Toh dengan semua usaha tersebut, video penembakan masih bisa beredar dan ditonton jutaan pengguna internet. Kasus ini kembali menimbulkan pertanyaan: bagaimana mencegah viralnya sebuah video berisi konten negatif? Menghentikan penyebaran video penembakan di Selandia Baru menjadi penting mengingat efek negatif yang ditimbulkan. Bagi publik, video berisi kekerasan akan menimbulkan ketegangan mental. Bagi mereka yang di sisi korban, video tersebut akan melahirkan trauma dan keinginan balas dendam. Sementara bagi kelompok teroris, video tersebut akan menjadi glorifi kasi yang mendorong aksi serupa. Pendek kata, tersebarnya video keji hanya membuat kondisi semakin memburuk.

Sebenarnya, ada beberapa mekanisme yang coba dilakukan penyedia media sosial untuk membatasi ruang gerak video live streaming yang meresahkan. Contohnya Facebook, yang menyediakan fitur bagi pengguna melaporkan video berkonten negatif. Namun, pada kasus penembakan Selandia Baru, cara ini terbukti tidak terlalu efektif. Laporan pengguna pertama pada video asli datang 29 menit setelah video dimulai, dan 12 menit setelah siaran langsung berakhir.

Begitu pula YouTube yang membuka war room berisi tim yang khusus bertugas memblokir video berkonten negatif yang viral. Namun, saat begitu banyak orang berusaha mengunggah video, tim pun kesulitan. Pada kasus penembakan itu, mereka akhirnya menyerahkan penilaian sepenuhnya kepada mesin algoritme, padahal biasanya keputusan akhir berada di tim penilai. Langkah YouTube tersebut juga memiliki keterbatasan. Selain berpotensi false positive (memblokir video yang sebenarnya tidak berhubungan), algoritme di mesin pemblokiran kurang mampu mengenali variasi dari video (seperti video yang telah dipotong atau divideokan ulang).

Seluruh platform media sosial yang memiliki fitur live streaming sudah seharusnya memiliki sistem pengawasan konten secara real-time. Dengan sistem seperti ini, konten yang dianggap terlarang bisa segera terdeteksi sehingga mampu melakukan pencegahan atau penghentian penyiaran. Konten negatif yang disiarkan secara langsung melalui Facebook bukan kali pertama terjadi. Di Jakarta, beberapa waktu lalu juga ada video orang gantung diri yang live di Facebook. Karena itulah, apabila Facebook tidak memiliki kemampuan untuk memantau dan menolak konten negatif, lebih baik Facebook tidak memiliki fitur live streaming.



Setiap platform media sosial memiliki aturan (community rules) yang telah disusun dengan banyak pertimbangan. Hanya saja, dalam hal fitur live streaming yang saat ini trennya sedang memuncak, sangat disarankan adanya aturan yang lebih ketat lagi. Harus ada sistem dan mekanisme yang praktis dan cepat antara sistem komputer yang mengatur dan mengawasi aktivitas akun pengguna media sosial dengan sumber daya manusia yang ada. Singkatnya, harus ada kerja sama antara otoritas yang berwenang (kepolisian) sebagai moderator, dengan pihak penyedia jasa media sosial pada fitur-fitur yang dianggap penting untuk “dijaga”.

Intinya, ada patroli pada aktivitas yang dilakukan di media sosial, meskipun tidak menyarankan Facebook atau media sosial lain untuk jadi patroli konten karena ini berkaitan dengan digital rights. Hanya saja, memang dirasa penting untuk kasus-kasus tertentu seperti yang terjadi di Selandia Baru. Moderator ini bisa seperti sistem Trusted Flagger di YouTube yang juga bekerja sama dengan komunitas dan organisasi sipil seperti Wahid Institute, Masyarakat Anti Fitnah Indonesia (Mafindo), ICT Watch, dan lain sebagainya. Fitur ini akan membuat individu atau organisasi terpilih di Indonesia menjadi Pelapor Tepercaya untuk melaporkan konten yang tidak diperbolehkan atau melanggar aturan di Indonesia.



Inti dari program ini adalah untuk lebih cepat dalam melakukan pemantauan dan bahkan penghapusan konten-konten yang dianggap berbahaya. Kementerian Komunikasi dan Informasi Republik Indonesia sendiri mengaku telah melakukan kerja sama dengan beberapa platform media sosial. Pihaknya telah meminta kepada semua penyelenggara media social yang memiliki fitur live streaming agar mereka memiliki “pasukan” yang mampu memantau setiap waktu apabila ada konten-konten live yang melanggar peraturan perundang-undangan seperti pornografi atau terorisme.