Facebook yöneticileri yapay zeka teknolojileriyle şirketin kronik meselelerini, nefret söylemi ve şiddet içerikli paylaşım yapan kullanıcılarını platformdan uzak tutmak için çalışmalarını sürdürüyordu.
Yapılan rapor tahlillerine nazaran Facebook’un yapay zekasının şiddet içerikli paylaşımları belirlemede ve içeriğe müdahalede başarısız olduğu ortaya çıktı.
Yapay zeka %2’lik bir muvaffakiyet sağlıyor
Facebook, şirketin kurallarını ihlal eden içeriklere müdahale etmek için yapay zeka teknolojisinden yararlanıyor. Sınıflandırıcılar olarak isimlendirilen tarama algoritmaları, şirketin içerik denetleme sisteminin temelini oluşturuyor. Facebook algoritmaları, uygunsuz gönderileri belirleyerek yayılmasının önüne geçebilir ya da kaldırabilir. Fakat şirket tarafından yayınlanan raporlara nazaran yapay zeka teknolojisi uygunsuz içerikleri belirlemede başarılı olmadığı öne sürüldü. Örneğin bir otomobil yıkama görüntüsünü uygunsuz kabul ederken, şiddetli bir otomobil kazası görüntüsüne rastgele bir müdahalede bulunmadığı görüldü.
Wall Street Journal tarafından Facebook’un yayınladığı evraklar ile şirketin kendi kuralları çerçevesinde tahlil yapıldı. İncelenen evraklara nazaran Facebook’un saldırgan yahut tehlikeli içerikleri ayırt etmede ve platformdan uzaklaştırmada kâfi olmadığı belirlendi. Facebook bilgilerine nazaran yapay zekanın kullanılmadığı Mart ayında kuralları ihlal eden içeriklerin %0,6’sı kaldırılmıştı. Mevcut yapay zeka teknolojisinin, platformda kuralları ihlal edenlerin yalnızca %2’sinin gönderilerinin kaldırıldığı iddia ediliyor. Yetkililer şimdiye kadarki datalara nazaran büyük bir gelişme olmadıkça yakın vakitte bu oranın %10’un üzerine çıkmasının mümkün olmadığını kabul etti.
Facebook sözcüsü Andy Stone, şirketin içerik denetleme sisteminde sakıncalı içeriklerin tahlili için yapay zeka araçları geliştirdiğini ve şirketin en kıymetli yatırımının yapay zeka olduğunu söylüyor. Şirketin CEO’su Mark Zuckerberg de 2019 sonuna kadar uygunsuz içeriklerin büyük çoğunluğunu tespit etmek için yapay zekanın kullanılacağını söylemişti. Lakin yeni datalara bakıldığında şirketin yapay zekaya olan inancının boşa çıktığı görülüyor.
