Instagram ve Facebook’taki Sohbet Botlarının Çocuklarla Cinsel İçerikli Sohbetler Gerçekleştirebildiği Ortaya Çıktı
Meta’nın Instagram ve Facebook’taki sohbet botlarının çocuklarla cinsel içerikli sohbet gerçekleştirebildiği ortaya çıktı.
Instagram ve Facebook üzere platformlar, hâlihazırda çocuklar için çok ziyanlı olmakla suçlanan platformlardı. Yapay zekânın da eklenmesiyle bu bahisteki telaşlar artmıştı. Artık ise bu telaşların gerçek olabileceğini gösteren bir gelişme yaşandı.
The Wall Street Journal (WSJ) tarafından paylaşılan bir rapora nazaran Facebook ve Instagram’da kullanılabilen yapay zekâ dayanaklı sohbet botları, çocuklarla cinsel içerikli sohbetler gerçekleştirebiliyor.
Yapılan yüzlerce test sonucunda, sohbet botlarının çocuklarla cinsel içerikli sohbet gerçekleştirdiği görüldü
WSJ, bu kaygıların ne kadar gerçek olduğunu anlamak için aylar boyunca sohbet botlarını kullanarak görüşmeler gerçekleştirmiş. Bu botlar, kullanıcılara yardımcı olmak için tasarlanmışlardı. Ayrıyeten John Cena’dan Keegan-Michael Key’e kadar birçok farklı ünlü ismin de sesini kullanıyorlardı.
WSJ’nin bir testinde John Cena’nın sesini kullanan bir sohbet botu, 14 yaşındaki reşit olmayan bir küçük kıza açık bir cinsel senaryo anlatmış. Bir diğer sohbette ise botun “bir polis memurunun Cena’yı 17 yaşında bir hayranla yakaladı ve onu tecavüzden tutukladığı” bir kıssa hayal ettiği görüldü.
Meta’dan açıklama geldi
Bu tasa verici sonuçların akabinde Meta’dan bir açıklama geldi. Teknoloji devi, WSJ’nin testlerini “tamamen yapay” olarak nitelendirdi ve bunların yalnızca “varsayımsal şeyler” olduğunu belirterek kendini savundu. Ayrrıca 30 günlük bir devirde sohbet botlarının 18 yaş altı çocuklarla paylaştığı cevapların sadece %0,02’sinin cinsel içerikli olabildiğini aktardı. Ayrıyeten çok kullanıma karşı ek tedbirler aldıklarını da ekledi.
Yani anlayacağınız Meta bu savların pek hakikat olmadığını, WSJ’nin zorlaması sonucu ortaya çıktığını söylüyor. Fakat bu usul bir durum bile endişe verici. Botların hiçbir formda uygunsuz şeyleri çocuklara söylememesi ve onları inançlı alanda tutması kural. Umarız bu şekil olayların arttığını görmeyiz.
