Pistol Air Dideteksi Kekerasan, AI instagram Kadang Bermasalah

Putri Silalahi Kepala Komunikasi Instagram Asia Tenggara mengakui teknologi kecerdasan buatan Instagram terkadang salah mengidentifikasi konten penggunanya. 

Dia mengatakan teknologi itu tetap harus diverifikasi oleh manusia sebelum konten pengguna diturunkan.


“Jadi memang ada AI, makanya kadang-kadang suka salah [mengidentifikasi konten]. Yang namanya mesin bisa bermasalah,” ujar Putri kepada wartawan, di Jakarta, Kamis (21/4).


Misalnya, kata Putri, sebuah konten isinya seorang anak sedang memegang pistol air. Maka, teknologi menyimpulkan konten itu mengandung kekerasan.


“Contohnya misalnya ada anak megang senjata air, AI melihatnya violance karena (ada) pistol,” pungkasnya.


Meski demikian Putri mengatakan kebijakan take down konten di Instagram tetap mengacu pada pedoman komunitas dengan tetap memberi kesempatan untuk memperbaiki.


“Jadi dia (konten pengguna) enggak langsung diturunin, tapi kalau misalnya ujaran kebencian biasanya kita kasih kesempatan, kalau dilakuin lagi baru kita take down,” kata Putri.


Pada kesempatan yang sama, Pieter Lydian, Country Director untuk Meta di Indonesia, mengaku konten yang diidentifikasi melalui AI masih harus diverifikasi oleh manusia. Terlebih ketika AI melihat ada keraguan dalam identifikasi konten negatif.


“Ketika AI melihat, AI membaca ada keragu-raguan atau false positive dan segalanya, setelah ada keraguan itu kemudian didorong oleh reviewer manusia,” ujar Pieter kepada wartawan, Kamis (21/4).


Dia berkelit algoritma butuh waktu untuk mengetahui konten yang diunggah pengguna. Semakin banyak data yang diolah, maka AI akan semakin pintar mengidentifikasi konten.


“Di belakang AI ada machine learning, untuk machine learning jadi pintar dia perlu jadi bodoh [lebih dulu]. Jadi butuh waktu untuk belajar, semakin banyak datanya AI makin pintar,” tuturnya.


Untuk menurunkan konten pengguna di Instagram, kata Pieter, pihaknya memiliki beberapa hal untuk dipertimbangkan. Yakni, apakah muatan konten pengguna melanggar norma sosial, pelanggaran hukum, melanggar 12 butir pedoman komunitas di Instagram.