Yapay zekâ modelleri her ne kadar heyecan verici olsa da birtakım aksiliklere yol açabiliyor. Bundan birkaç gün evvel, Papa’nın şişme mont giydiği bir görsel ortaya çıkmış ve kısa müddette toplumsal medyada tanınan olmuştu. Birçok insan tarafından gerçek sanılan bu görsel, aslında yapay zekâ aracı Midjourney tarafından oluşturulmuştu.
Son günlerde tek viral olan yapay zekâ görseli bu değildi. Eski ABD Lideri Donald Trump’ın tutuklandığını gösteren ve yeniden Midjourney tarafından oluşturulan görüntüler de tıpkı formda toplumsal medyada süratle yayıldı. Gerçek üzere gözüken bu görseller, hâliyle büyük kaygılara yol açtı ve ileride internette gördüğümüz görsellerin gerçek olup olmadığını anlayabileceğimizi ortaya koydu. Tartışmalar sürerken Midjourney’den buna yönelik bir atılım geldi.
Midjourney’in fiyatsız deneme hakları, berbata kullanım nedeniyle durduruldu
Midjourney’in kurucusu ve CEO’su David Holz, geçtiğimiz günlerde yaptığı bir duyuruyla yapay zekânın fiyatsız denemesini durdurduklarını açıkladı. Holz, buna neden olarak ise olağanüstü talebi ve berbata kullanımı gösterdi.
Midjourney, daha evvel herkese 25 fiyatsız manzara oluşturma hakkı tanıyordu. Bu deneme süreci bitince ise aylık 10 dolarlık aboneliğe geçmek gerekiyordu. Lakin son vakitlerde dezenformasyona yol açan geçersiz görseller nedeniyle bu haklar ortadan kaldırıldı.
Holz, daha evvel Midjourney’in deepfake görsel yapmak için kullanılamayacağını söylüyordu. Lakin 15 Mart’ta gelen 5. versiyon, fotoğrafların kalitesinin inanılmaz derecede gelişmesini ve nitekim ayırt edilemeyen insan tasvirlerinin oluşturulmasını sağladı. Aslında bunun akabinde da toplumsal medyada gerçek sanılan uydurma görseller ortaya çıkmaya başladı.
Alınan tedbirler bu biçim düzmece görsellerin önüne geçmek için kâfi değil
İçerikleri için pek de kısıtlayıcı siyasetlere sahip olmayan Midjourney, “farklı ülkelerden gelen şikayetlere göre” belirlediği birtakım sözleri yasaklıyordu. Lakin bu sözlerin tamamını içeren liste hiç paylaşılmadı. Uydurma görsellerin yayılmasının akabinde ise “tutuklandı” (Donald Trump görseli) üzere sözler eklenerek bu liste genişletildi.
Ancak bunun pek de bir değişikliğe yol açtığı söylenemez. The Verge tarafından yapılan denemelerde, “tutuklandı” yerine “kelepçelendi” üzere şeyler kullanıldığında tekrar emsal sonuçların çıktığı görüldü. Bu da daha sıkı kısıtlamalara gereksinim olabileceğini ortaya koydu.
Kısacası yapay zekâ araçları her ne kadar büyüleyici olsa da çok büyük sorunları de beraberinde getiriyor. Bu usul teknolojiler çok süratli bir biçimde gelişmeye devam ederken şirketlerin nasıl adımlar atacağını birlikte göreceğiz.
KAYNAK : Webtekno
