Google, gazeteciler için açık kaynaklı bir taciz filtresi yayınlıyor

Google’ın Jigsaw birimi, Taciz Yöneticisi adlı açık kaynaklı bir taciz önleme aracının kodunu yayınlıyor. Gazeteciler ve diğer tanınmış kişiler için tasarlanan araç, kullanıcıların Twitter’dan başlayarak sosyal medya platformlarında potansiyel olarak kötüye kullanım amaçlı yorumları sıralamasına izin vermek için Jigsaw’ın Perspektif API’sini kullanıyor. Geliştiricilerin geliştirmeleri için kaynak kodu olarak piyasaya çıkıyor, ardından Haziran ayında Thomson Reuters Vakfı gazetecileri için işlevsel bir uygulama olarak piyasaya sürüldü.

Taciz Yöneticisi, tweet yanıtlarını gizleme ve hesapları sessize alma veya engelleme gibi denetleme seçeneklerini toplu filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle birlikte çalışabilir. Perspektif, tehditler, hakaretler ve küfür gibi unsurlara dayalı olarak mesajların dilini “toksisite” düzeyleri açısından kontrol eder. Mesajları, kullanıcıların Twitter’ın varsayılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralar halinde sıralar. Bunu yaparken mesajların metnini bulanıklaştırmayı seçebilirler, böylece her birini okumalarına gerek kalmaz ve otomatik olarak oluşturulan kuyrukları kullanmanın yanı sıra anahtar kelimeleri arayabilirler.

Taciz Yöneticisi ayrıca kullanıcıların kötüye kullanım amaçlı mesajlar içeren bağımsız bir rapor indirmesine izin verir; bu, işverenleri veya doğrudan tehditler gibi yasa dışı içerik olması durumunda kolluk kuvvetleri için bir kağıt izi oluşturur. Ancak şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama yok. Bunun yerine, geliştiriciler, Thomson Reuters Vakfı gibi ortaklar tarafından başlatılacak olan, işlevselliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilirler.

Jigsaw, Uluslararası Kadınlar Günü’nde Taciz Yöneticisini duyurdu ve aracı özellikle toplumsal cinsiyete dayalı tacize maruz kalan kadın gazeteciler için uygun bir çerçeveye oturttu ve “büyük Twitter varlığına sahip gazeteciler ve aktivistlerin” yanı sıra Uluslararası Kadın Medya Vakfı ve Kar amacı gütmeyen kuruluşlardan gelen girdileri vurguladı. Gazetecileri Koruma Komitesi. Bir Medium gönderisinde ekip, geliştiricilerin onu risk altındaki diğer sosyal medya kullanıcıları için uyarlamasını umduğunu söylüyor. Yazıda, “Umudumuz, bu teknolojinin çevrimiçi tacize maruz kalan insanlar, özellikle kadın gazeteciler, aktivistler, politikacılar ve çevrimiçi olarak orantısız derecede yüksek toksisite ile uğraşan diğer halka açık kişiler için bir kaynak sağlamasıdır.”

Google, daha önce otomatik denetleme için Perspektif’ten yararlandı. 2019’da, sosyal medya kullanıcılarının toksik olma olasılığı yüksek mesajları görmekten kaçınmasına izin veren Tune adlı bir tarayıcı uzantısı yayınladı ve birçok yorum platformu (Vox Media’s Coral dahil) tarafından insan denetimini desteklemek için kullanıldı. Ancak Perspective and Tune’ın piyasaya sürülmesi sırasında belirttiğimiz gibi, dil analizi modeli tarihsel olarak mükemmel olmaktan uzaktı. Bazen hiciv içeriğini yanlış sınıflandırır veya kötüye kullanım amaçlı mesajları tespit edemez ve Jigsaw tarzı AI, “kör” veya “sağır” gibi – mutlaka olumsuz olmayan – terimleri yanlışlıkla toksisite ile ilişkilendirebilir. Google iddialara itiraz etmesine rağmen, Jigsaw’ın kendisi de zehirli bir işyeri kültürü için eleştirildi.

Twitter ve Instagram gibi hizmetlerde yapay zeka destekli denetlemenin aksine, Taciz Yöneticisi platform tarafı denetleme özelliği değildir. Görünüşe göre, sosyal medya geri bildirimlerinin bazen ezici ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı, şimdilik kullanamasalar bile, gazetecilik alanının çok dışındaki insanlar için alakalı olabilecek bir şey.