Eğitilmeye Çalışılan Yapay Zekâ Modellerini Sonsuz Bir Döngüye Sokan Labirent Algoritma Geliştirildi
Bir geliştirici, yapay zekâ modellerinin internet siteleri üzerinden geliştirilmesini imkânsız hâle getiren bir algoritma oluşturdu. “Nepenthes” isimli algoritma, yapay zekâyı sonsuz bir döngü içerisine sokuyor.
Bağımsız bir geliştirici, yapay zekâ modellerinin eğitimini zorlaştıracak bir projeye imza attı. “Nepenthes” olarak isimlendirilen bu proje, internet sitelerine entegre edildiği vakit yapay zekâ modellerini sonsuz bir döngünün içerisine sokuyor.
Yapay zekâ modellerini güzelleştirmenin tek yolu, onları sonsuz büyüklükte bilgilerle eğitmek. Şirketler, bunu yapmak için de internet sitelerini kullanıyorlar. İşte Nepenthes, tam olarak buna odaklanıyor. Diyelim ki bir internet sitesine sahipsiniz ve Nepenthes’i entegre ettiniz. OpenAI’ın GPT modeli de bir formda sizin sitenizdeki datalara ulaştı. Nepenthes’in tuzağına düşen model, datalara ulaşmaya çalışırken kendini sonsuz bir döngü içerisinde bulacak ve boşu boşuna güç tüketecek.
Hem berbat gayeli hem değil
404media’ya konuşan geliştirici, bunun teknik olarak berbat maksatlı bir algoritma olduğunu kabul ediyor. Fakat algoritmanın kullanım gayesi, yapay zekâ şirketlerinin hiçbir kural tanımadan model eğitmesini engellemek. Hâl bu türlü olunca Nepenthes, aslında o kadar da makus maksatlı değil.
Buradaki temasa giderseniz Nepenthes için hazırlanan bir demoyu görüntüleyebilirsiniz. Bu demo, sistemin aslında ne kadar kolay olduğunu gözler önüne seriyor. Hayli yavaş bir biçimde çalışan Nepenthes, URL’lerden URL’ler, onlardan da tekrardan URL’ler üretiyor. Olur da bir yapay zekâ modeli bu internet sitesini eğitim için kullanacak olursa sonsuza kadar üretilen URL’ler içerisinde dolaşıp duracak.
