Diksia.com - Selama bertahun-tahun, komunitas Call of Duty identik dengan ujaran kebencian, ocehan anak-anak, dan pelecehan verbal, bahkan menjadi bahan meme tersendiri. Oleh karena itu, disambut baik ketika Activision mengumumkan sistem baru untuk membasmi pengganggu dan anggota komunitas yang toxic.
Sistem ini, yang diimplementasikan tahun lalu, memanfaatkan kecerdasan buatan (AI) untuk mendeteksi dan secara otomatis memberikan sanksi kepada para pelanggar.
Namun, alih-alih tepuk tangan meriah, kini justru muncul kontroversi. Para pemain mencurigai moderator AI tersebut telah melampaui batas kewenangannya. Betapa tidak, diduga kuat moderator tersebut turut menyadap obrolan suara di ruang privat.
Kegelisahan ini mencuat ke permukaan melalui platform Reddit. Pengguna r/Icy_Tangerine_6271 berbagi pengalaman pahitnya. Setelah semalam bermain bersama teman dalam ruang privat, ia dan salah satu temannya tiba-tiba menerima hukuman banned selama tiga hari.
“Tidak tahu apa yang kami katakan semalam,” tulis r/Icy_Tangerine_6271 dalam unggahannya.
“Masalahnya, kami hanya bertiga di ruang privat. Bisa dimengerti jika mereka memoderasi obrolan lobi publik untuk ‘menciptakan lingkungan yang aman’, tapi kalau sampai mengawasi dan menghukum pembicaraan di ruang privat, itu keterlaluan.”
Apakah Moderator AI Activision Memata-matai Pemain?
Pertanyaan yang muncul adalah, apakah Activision secara aktif mendengarkan semua yang pemain katakan saat bermain Call of Duty? Pada bulan Agustus 2023, perusahaan mengumumkan implementasi ToxMod ke dalam game.
Ini adalah sistem deteksi berbasis AI yang dapat “mengidentifikasi secara real-time dan menegakkan larangan terhadap obrolan yang toxic – termasuk ujaran kebencian, bahasa diskriminatif, pelecehan, dan banyak lagi.”
Sistem ini bekerja bersama-sama dengan sistem moderasi lain yang mencakup pemfilteran berbasis teks dalam 14 bahasa untuk teks dalam game (untuk obrolan dan nama pengguna) serta sistem pelaporan pemain.
Kemudian, pada Januari 2024, Activision mengungkapkan bahwa lebih dari dua juta akun telah dikenai hukuman sejak ToxMod dimasukkan. Ini menandakan bahwa sistem tersebut berfungsi sebagaimana mestinya.
