Pakai AI, AJI dan Monash University Indonesia Pantau Hate Speech di Pemilu 2024

Monash melibatkan dua peneliti yakni Derry Wijaya dan Ika Idris yang punya keahlian dan mengerjakan topik secara intensif.

Mereka menggabungkan percakapan dan pembelajaran mesin untuk mendeteksi percakapan yang toksik.

Alex mengatakan, Monash University senang menggandeng AJI Indonesia dalam kolaborasi ini karena isu tersebut penting dan jurnalis mengamati fenomena ujaran kebencian secara dekat dan intensif. Alex berharap akan ada kerjasama yang berkelanjutan di masa depan.

"Melalui kolaborasi ini, kami berharap dapat memberikan dampak bagi masyarakat Indonesia, terutama kelompok rentan," ujar dia.

Rekam Jejak Penelitian Sebelumnya

Derry Wijaya seklaigus Co-director Data & Democracy Research Hub, Monash University Indonesia, Derry Wijaya, mengatakan Pilpres Indonesia 2024 akan terjadi di mana penggunaan AI-generatif telah digunakan cukup luas, beberapa di antaranya disalahgunakan untuk memproduksi ujaran kebencian, misinformasi dan disinformasi.

Namun, AI juga bisa dikembangkan untuk mengindetifikasi dan mendeteksi lebih dini penyebaran misinformasi, disinformasi, dan ujaran kebencian. Sehingga publik dapat menentukan tindakan intervensi lebih tepat.

“Dengan tujuan ini kami mengembangkan AI agar dapat mendukung keberagaman dan demokrasi,” kata Derry.

Monash University Indonesia telah beberapa kali memantau penyebaran misinformasi, ujaran kebencian, dan peran penting kecerdasan buatan (AI generatif), utamanya saat pandemi COVID-19.

Studi pertama dari hasil analisis 24 ribu percakapan Twitter selama pandemi Covid-19 di Indonesia dan Malaysia menunjukkan stigma negatif terhadap etnis Cina, India, dan kelompok agama tertentu.

“Stigma negatif ini berakibat fatal pada tidak tertanganinya kasus Covid-19, terutama pada kelompok rentan,” kata Co-director Data & Democracy Research Hub, Monash University Indonesia, Ika Idris.

Studi kedua menggali moderasi konten di Instagram tentang #coronavirus. Menggunakan dataset besar yang mencakup 9.648 gambar dan 22.676 komentar dari tahun 2020. Penelitian tersebut menemukan bahwa moderasi berhasil mengurangi penyebaran misinformasi yang berkaitan dengan COVID-19.

Namun, secara tak terduga, moderasi juga menyebabkan penurunan tingkat kemarahan, ketakutan, ujaran kebencian, dan serangan identitas.

Studi ketiga menghadirkan dataset multibahasa tentang misinformasi vaksin COVID-19 yang fokus pada tiga negara yakni Brasil, Indonesia, dan Nigeria. Dengan melibatkan 5.952 tweet yang telah di-annotasi, penelitian ini membuktikan pentingnya pengembangan model deteksi misinformasi.

Hasilnya menunjukkan peningkatan kinerja yang signifikan, dengan skor F1 makro meningkat sebesar 2,7 persen hingga 15,9 persen dibandingkan dengan model-model awal.