Google’ın üretsel yapay zekâsı Gemini, ödev için yardım almak isteyen bir kullanıcıyı zorbaladı. Yüksek lisans öğrencisi, Gemini’ın “Lütfen öl. Lütfen” sözleri karşısında şok oldu.
Üretsel yapay zekâ, hayatımızın ayrılmaz bir kesimi hâline geldi. Bugün bazen bir şeyler öğrenmek için bazense yalnızca can sorunundan yapay zekâ ile desteklenen araçları kullanabiliyoruz. Lakin bu araçlar şimdi mükemmel düzeyde değiller. Çünkü vakit zaman çok büyük kusurlar yapabiliyorlar. Kimi vakit da saçma sapan sonuçlar veriyorlar.
Şimdi tekrar bu tıp bir olay yaşandı. Bu defa 29 yaşındaki Vidhay Reddy isimli bir yüksek lisans öğrencisi, Google’ın üretsel yapay zekâsı Gemini’ın zorbalığına maruz kaldı. Ödevi için yapay zekâdan yardım almak isteyen Reddy, hiç lakin hiç beklemediği bir karşılıkla karşılaştı.
“Lütfen öl. Lütfen…”
Vidhay Reddy, Gemini ile yaşlıların yaşadığı zorluklar ve bu zorluklara yönelik tahlillerle ilgili bir sohbet yürütüyordu. Birinci başta her şey olağandı lakin sonradan, hiç beklenmedik bir gelişme yaşandı. Gemini, Reddy’ye tam olarak şu cümleleri kurdu:
Bu karşılık karşısında şok olduğunu söyleyen kullanıcı, o an tüm teknolojik aletleri yok etmek istediğini ifade ediyor. Bunun bir oburunun da başına gelebileceğini belirten Vidhay Reddy, yaşadığı olayı ölümcül buluyor. Lakin Google’a nazaran Gemini’ın yaptığı açıklama saçmalıktan ibaret. Ve Google, bu tıp saçmalıkların tüm üretsel yapay zekâ modellerinde olabileceğini söyledi. Lakin Google geliştiricileri, Gemini’ın bir daha emsal yanıtlar vermemesi için harekete geçtiklerini de duyurdular.
İlgili Gemini sohbetine buradan ulaşabilirsiniz.
