Video Teror Selandia Baru Ujian untuk Sistem AI Facebook

Facebook merilis angka baru tentang upayanya untuk menghentikan penyebaran video teror selandia baru yang menyerang dua masjid pada hari Jumat di Christchurch, Selandia Baru. Peristiwa itu menewaskan 50 orang.

Dalam sebuah posting blog, wakil presiden dan wakil penasihat umum Facebook Chris Sonderby mengatakan bahwa video itu ditonton kurang dari 200 kali selama siaran langsung, dimana tidak ada pengguna yang melaporkan video tersebut.

Termasuk penayangan selama siaran langsung, video teror Selandia Baru ditonton sekitar 4.000 kali sebelum dihapus dari Facebook. Pertama kali dilaporkan 29 menit setelah mulai mengalir, atau 12 menit setelah itu berakhir.

Sebelum penembakan, tersangka, seorang pria kulit putih berusia 28 tahun, memposting manifesto anti-Muslim dan pro-fasisme. Sonderby mengatakan akun pribadi penembak telah dihapus dari Facebook dan Instagram.

Angka-angka baru Facebook datang sehari setelah perusahaan mengatakan telah menghapus sekitar 1,5 juta video teror Selandia Baru dalam 24 jam pertama setelah serangan, termasuk 1,2 juta yang diblokir saat diunggah, dan karenanya tidak tersedia untuk dilihat.

Tetapi itu berarti gagal memblokir 20 persen dari video itu, atau 300.000, yang diunggah ke platform dan karena itu masih dapat ditonton.

Kedua set angka tersebut, meski dimaksudkan untuk memberikan transparansi, tampaknya tidak memadamkan kritik terhadap media sosial dalam menyebarkan video kekerasan dan ideologi berbahaya, terutama sejak Facebook Live diluncurkan.

Mereka mempertanyakan mengapa platform ini masih sangat bergantung pada laporan pengguna, meskipun AI dan alat moderasi berbasis pembelajaran mesin, dan mengapa pemindahan tidak terjadi lebih cepat.

Terutama selama krisis seperti saat ini, dimana kecepatan menilai dan mengambil keputusan sangat krusial. Efek viral yang ditimbulkan oleh sosial media sangat berbeda bila dibandingkan dengan obrolan mulut ke mulut.

"Multiple Effect" dari Social Media

Tantangan moderasi pada platform skala Facebook (sekarang mengklaim lebih dari 2 miliar pengguna bulanan) sangat berat.

Sonderby juga mengatakan bahwa perusahaan telah melakukan hash video Facebook Live asli untuk membantu mendeteksi dan menghapus video serupa lainnya secara visual dari Facebook dan Instagram.

Ia juga berbagi lebih dari 800 video teror Selandia Baru yang secara visual berbeda terkait dengan serangan melalui basis data yang dibagikan dengan anggota Forum Internet Global untuk Penanggulangan Terorisme (GIFCT).

"Kejadian ini menyoroti pentingnya kerja sama industri mengenai jangkauan teror yang beroperasi secara online," tulisnya.

Platform online lainnya, bagaimanapun, juga telah berjuang untuk menghentikan penyebaran video. Misalnya, pengunggah dapat menggunakan modifikasi kecil, seperti tanda air atau mengubah ukuran klip, untuk menghalangi alat moderasi konten YouTube.

Bagaimana pendapat anda? apakah tindakan facebook benar? ataukah video tersebut harus tetap ada di facebook? tulis pendapat ada pada kolom komentar seperti biasa :)

Ratusan juta Password Facebook disimpan dalam teks biasa?
Elizabeth Warren ingin memecah Google, Amazon dan Facebook