Sanatkarlar yapay zekayı zehirlemeyi denedi! Maksat kör etmek
![](/wp-content/uploads/2024/02/sanatkarlar-yapay-zekayi-zehirlemeyi-denedi-maksat-kor-etmek-O6tUqiCe-780x470.jpg)
Makine‘lere karşı savaş tam gaz devam ediyor. Başlangıçta genel olarak üretken yapay zekaya olan hoşnutsuzluk, artık sanatkarlar tarafından tam ölçekli bir atağa dönüşmüş durumda. Pekala sanatkarlar neden bu yola başvuruyor? Yapay zekayı kör etme sebepleri ne? İşte tüm yanıtlar…
Sanatçılar, yapay zekayı neden zehirlemeye çalışıyor?
Bu hasımlığın nedeni yapay zekanın, sanatkarların müsaadesi olmadan platformlardaki orjinal imgelerle eğitiliyor olması. Spesifik olarak anlatmak gerekirse geliştirilen kimi yeni eserler, yapay zekayı yanılgılar yapacak formda başını karıştırmayı amaçlıyor.
![](/wp-content/uploads/2024/02/sanatkarlar-yapay-zekayi-zehirlemeyi-denedi-maksat-kor-etmek-0-D35CbpOT.jpg)
Yani yapay zekanın “sanat eseri” bilgilerini “zehirleme” emeliyle piyasaya sürülüyor. Örneğin Nightshade, Chicago Üniversitesi’ndeki araştırmacılar tarafından geliştirilmiş fiyatsız bir yazılım. Sanatkarlar çok beklemiş olacaklar ki, ocak ayında çıkışından bu yana bu yazılımı 250 binden fazla kişi indirdi.
Konuyla ilgili bir VentureBeat makalesinde, “Araç temel olarak yapay zekayı yapay zekaya karşı kullanarak çalışıyor,” deniyor. Yani yapay zekayı kör etmek için öteki bir yapay zeka kullanılıyor. DALL-E ve Midjourney AI gibi platformlar, ticari sanat da dahil olmak üzere web’den bilgi toplayarak çalışıyor.
![](/wp-content/uploads/2024/02/sanatkarlar-yapay-zekayi-zehirlemeyi-denedi-maksat-kor-etmek-1-bnrO5WBA.jpg)
Midjourney’in raporlara nazaran müsaadesiz olarak özgün yapımcılardan daha fazla 100 milyondan fazla imajla eğitim aldığı belirtiliyor. Açıklığa kavuşturmak gerekirse, bu direkt “çalıntı” manasına gelmiyor. Eğitim verisi modüllere ayrılıyor ve akabinde istendiğinde yine yapılandırılıyor, bu da çıktının mevcut bir sanat yapıtının birebiri değil, bir gibisi olacağı manasına geliyor.
Veri zehirleme aracı: Nightshade nasıl çalışıyor?
Bu yapay zeka yazılımı, başka yapay zeka programlarının imgelerdeki objeleri yanlış tanımlaması için etiketler kullanarak çalışıyor, “piksel seviyesinde resmi ince bir halde değiştirerek öbür yapay zeka programlarının gerçekte olduğundan farklı bir şey görmesini sağlıyor.” Yani resmen zehirleniyor!
![](/wp-content/uploads/2024/02/sanatkarlar-yapay-zekayi-zehirlemeyi-denedi-maksat-kor-etmek-2-dxiDvhIc.jpg)
Kaynak, sonucun yapay zekanın muhtemelen kullanıcı talimatlarıyla eşleşmeyen sonuçlar üreteceğini açıklıyor. “Örneğin, insan gözleri yeşil bir alanda bir inek resmi görebilirken, bir yapay zeka modeli çimenlerin üzerinde yatan büyük bir deri çanta görebilir,” diyor. Nightshade’i tanıtan takım, yaklaşık bir yıl evvel piyasaya sürülen başka bir AI-engelleyici araç olan Glaze‘in de ardında.
Bu araç, sanatkarın biçimini gizlemek için tasarlanmış, bu da üretken yapay zekanın sahneye girmesiyle sanatkarların en büyük kabusu haline geldiği manasına geliyor. Geliştiricilere nazaran tahlil, yapay zeka şirketlerinin, imgeleri sanatkarlardan lisanslamaları olabilir. Böylelikle bunları ücretsiz web‘den almazlar.
Siz bu bahis hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.