Kullanıcıların yazdığı metin, iki farklı ekibe hizmet eder. Ürün ve operasyon ekipleri bu metinden neyin bozuk olduğunu öğrenmek ister. Topluluk ve güvenlik ekipleri ise hangi içeriğin yayında kalmaması gerektiğini bilmek ister.
İki iş de aynı veri akışı üzerinde çalışır ve ikisinde de en sık yapılan hata aynıdır: metni kelime düzeyinde ele almak.
Kelime listesi neden yetersiz kalıyor
İçerik moderasyonuna genellikle yasaklı kelime listesiyle başlanır. Listenin ilk günlerde yakaladığı içerik tatmin edici görünür. Birkaç hafta sonra iki sorun birden çıkar.
Birincisi, kullanıcılar listeyi hızla aşar. Harf tekrarı, harf yerine sembol, araya boşluk ya da nokta koyma, ünlü düşürme, Türkçe karakter yerine ASCII karşılığı kullanma. Bunların her biri için ayrı kural yazmak, sonu gelmeyen bir bakım işine dönüşür.
İkincisi ve daha önemlisi, listeler bağlamı göremez. Aynı kelime bir şikayeti aktarırken, bir şakada, bir alıntıda ve gerçek bir hakarette geçebilir. "Müşteri temsilcisi bana şöyle dedi" diye başlayan bir şikayet mesajı, aktardığı ifade nedeniyle silinirse sistem kullanıcıyı şikayetinden dolayı cezalandırmış olur.
Bağlam farkı yalnızca teknik bir ayrıntı değil. Kullanıcıya doğrudan yöneltilmiş bir hakaret ile genel bir öfke ifadesi, aynı platformda farklı aksiyonları hak eder.
Türkçe metnin kendine özgü zorlukları
Sondan eklemeli yapı, moderasyon tarafında da arama tarafındaki kadar belirleyici. Aynı kök onlarca farklı biçimde karşınıza çıkar. Kelime tabanlı bir eşleştirme bunların hepsini yakalayamaz; alt-kelime seviyesinde çalışan modeller bu konuda belirgin şekilde daha dayanıklıdır.
Buna ek olarak Türkçede bölgesel kullanım farkları var. Bazı ifadeler bir bölgede ağır hakaret sayılırken başka bir bağlamda samimiyet göstergesi olarak kullanılıyor. Platformunuzun kullanıcı profilini bilmeden eşik belirlemek, ya aşırı sansüre ya da fazla gevşek bir moderasyona yol açıyor.
Sınıflandırıcıların istenmeyen yanlılığı
Toksisite sınıflandırıcılarıyla ilgili bilinen bir risk var: belirli kimlik terimlerini içeren cümleler, içerik saldırgan olmasa bile yüksek skor alabiliyor. Bunun nedeni eğitim verisinde bu terimlerin çoğunlukla saldırgan bağlamlarda geçmesi. Dixon ve arkadaşlarının çalışması bu etkiyi ölçtü ve azaltma yöntemlerini tartıştı (Measuring and Mitigating Unintended Bias in Text Classification, AIES 2018).
Pratik sonuç: sistemi devreye almadan önce, kimlik terimleri içeren ama saldırgan olmayan cümlelerden oluşan bir test seti hazırlayın. Bu set, modeli değiştirdiğinizde de tekrar çalıştırılmalı.
Tek eşik yerine kademeli aksiyon
Moderasyon sistemlerini "engelle veya geçir" ikilisiyle kurmak, her iki yönde de hata maliyeti yaratıyor.
Kategori bazında farklı aksiyonlar tanımlamak daha iyi çalışıyor:
- Düşük riskli içerik yayınlanır, yalnızca istatistik için etiketlenir
- Orta riskli içerik yayınlanır ama moderasyon kuyruğuna işaretlenerek düşer
- Yüksek riskli içerik yayın öncesi insan incelemesine alınır
- Tehdit, taciz ve yasa dışı içerik doğrudan engellenir ve olay kaydı açılır
Bu kademelendirmeyi kurarken hangi kategoride hangi hatanın daha pahalı olduğuna karar vermek gerekiyor. Tehdit kategorisinde bir içeriği kaçırmanın maliyeti, birkaç yanlış işaretlemeden çok daha yüksektir; burada yakalama oranı önceliklidir. Hafif küfür kategorisinde ise tersi geçerli; yanlış işaretleme kullanıcıyı platformdan uzaklaştırır.
Yani eşik, teknik bir parametre değil, platform politikasının sayısal karşılığıdır. Bu kararın kim tarafından verildiği ve hangi gerekçeye dayandığı yazılı olmalıdır.
İtiraz mekanizması opsiyonel değil
AB'de faaliyet gösteren platformlar için bu artık düzenlenmiş bir alan. Dijital Hizmetler Tüzüğü, içerik kısıtlama kararlarında kullanıcıya gerekçeli bildirim yapılmasını ve iç şikayet mekanizması sunulmasını zorunlu kılıyor. Şikayetlerin en az altı ay boyunca elektronik olarak ve ücretsiz iletilebilmesi gerekiyor. Tüzüğün önemli bir hükmü de şu: şikayetlere ilişkin kararlar yalnızca otomatik araçlarla verilemez, nitelikli personel gözetimi gerekir (DSA Madde 17 ve Madde 20).
Türkiye'de içerik kaldırma ve erişim engelleme süreçleri 5651 sayılı Kanun çerçevesinde yürüyor ve sosyal ağ sağlayıcıları için ayrı yükümlülükler tanımlı.
Düzenlemeden bağımsız olarak da bu mekanizma işe yarıyor. İtiraz kayıtları, modelin nerede yanıldığını gösteren en temiz veri kaynağı. İtirazların kabul edildiği kategoriler, eşiğin fazla sıkı olduğu kategorilerdir.
Yorum analizi tarafında sık yapılan hatalar
Aynı metin akışından operasyon içgörüsü çıkarırken de birkaç yaygın hata var.
Duygu skorunu tek metrik yapmak. "Negatif yorum oranı yüzde 18" cümlesi tek başına bir şey söylemez. Oran, hacim değişince kendiliğinden hareket eder. Kampanya döneminde yorum sayısı üçe katlanır ve negatif oran düşmüş görünebilirken negatif yorum sayısı artmıştır. Oranı ve mutlak sayıyı birlikte raporlamak gerekir.
Yorum bırakanların temsili olduğunu varsaymak. Yorum bırakma davranışı uçlarda yoğunlaşır: çok memnun olanlar ve çok rahatsız olanlar yazar, ortadaki geniş kesim yazmaz. Yorum verisinden çıkan tablo, müşteri kitlesinin genel görüşü değildir. Bu veriyi öncelik belirlemek için kullanın, memnuniyet ölçmek için değil. Memnuniyet ölçümünün nasıl kurulacağını anket metodolojisi yazımızda ele aldık.
Etiket setini dondurmak. Yeni ürün, yeni kampanya ve yeni bir sorun ortaya çıktığında sistem bunları eski kategorilere sıkıştırır. "Diğer" kategorisinin payı artıyorsa etiket seti güncellenmelidir. Bu payı düzenli izlemek, kayma için iyi bir erken uyarı sinyalidir.
Çıktıyı bir kuyruğa bağlamamak. Yorum analizinin en yaygın sonu, kimsenin açmadığı haftalık bir rapor olmaktır. Analiz, ancak belirli etiketler belirli ekiplerin iş listesine düştüğünde değer üretir. Kritik yorumların otomatik olarak destek veya ürün kuyruğuna kayıt açması, raporlamadan çok daha etkili.
Kaliteyi nasıl ölçüyoruz
Hem moderasyon hem yorum analizi için ölçüm mantığı benzer.
- Kategori bazında yakalama ve isabet oranları (tek bir genel doğruluk sayısı yanıltıcıdır)
- Otomatik etiket ile insan kodlaması arasındaki anlaşma oranı
- İtiraz sayısı ve itirazların kabul oranı
- Moderasyon kuyruğunda bekleme süresi
- "Diğer" kategorisinin toplam içindeki payı
İnsan kodlamasıyla karşılaştırma için ayda bir kez, birkaç yüz kayıtlık bir örneklem yeterli. Bu ölçüm yapılmadığında sistemin kalitesinin zamanla düştüğü ancak kullanıcı şikayetleri arttığında fark ediliyor.
Kurulum kontrol listesi
- Tespit kelime listesine mi, bağlamsal modele mi dayanıyor
- Yazım varyasyonları ve karakter değişimleri test edildi mi
- Kimlik terimleri içeren zararsız cümlelerden oluşan test seti var mı
- Kategori bazında aksiyon kademeleri tanımlı mı, eşik kararının sahibi kim
- Kullanıcıya gerekçeli bildirim yapılıyor mu
- İtiraz mekanizması var mı, itirazlar insan tarafından mı sonuçlanıyor
- Yorum analizinde oran ve mutlak sayı birlikte mi raporlanıyor
- Etiketler bir ekip kuyruğuna bağlı mı, "diğer" oranı izleniyor mu
Servislerin API üzerinden nasıl bağlandığını Yorum Analiz Servisleri ve Küfür/Hakaret Tespit Servisleri sayfalarında inceleyebilirsiniz.
Bu yazı genel bilgilendirme amaçlıdır, hukuki görüş yerine geçmez.
Kaynaklar
- Dixon, L., Li, J., Sorensen, J., Thain, N., Vasserman, L. (2018). Measuring and Mitigating Unintended Bias in Text Classification. AIES '18. dl.acm.org
- Digital Services Act (Regulation (EU) 2022/2065), Madde 17, Statement of Reasons. eu-digital-services-act.com
- Digital Services Act, Madde 20, Internal Complaint-Handling System. eu-digital-services-act.com
- 5651 sayılı İnternet Ortamında Yapılan Yayınların Düzenlenmesi ve Bu Yayınlar Yoluyla İşlenen Suçlarla Mücadele Edilmesi Hakkında Kanun. mevzuat.gov.tr