Yapay Zeka Destekli 'Soyunma' Uygulamaları: App Store ve Google Play'de Bir Krizi Oluşturan Sorun
Tech Transparency Project (TTP) tarafından yayınlanan yeni bir rapor, uygulama mağazalarındaki denetim sorunlarını bir kez daha gözler önüne serdi. Rapora göre, yapay zeka destekli 'soyunma' (nudify) uygulamaları, App Store ve Google Play Store üzerinde oldukça yaygın bir şekilde bulunuyor.
Yapay zeka araçlarının rıza dışı görüntüleri oluşturmasıyla gündeme gelen bu sorun, yeni yetenekten yararlanan birçok geliştirici tarafından uygulamalar geliştirdi ve bazıları bunu açık reklamlarda kullandı. Bu tür uygulamaların dünya çapında toplam 705 milyon indirme ve 117 milyon dolar geliri elde ettiğini belirtiyor rapor.
Google ve Apple, bu gelirden belirli bir pay aldıkları için, kendi politikalarını ihlal eden bu uygulamaların faaliyetlerinden doğrudan kazanç sağlamış oluyorlar.
Teknolojideki Değişim ve Uygulama Mağazalarındaki Sorunlar
Geleneksel görüntü düzenleme araçları bu tür kötüye kullanımlara uzun süredir olanak tanıyordu ancak yapay zeka süreci inanılmaz derecede hızlandırdı. Bu yeni yetenek, birçok geliştirici için uygulamalar geliştirmeye ve pazarlamaya yeni bir imkan suntuğu oldu.
Google Play Store, nesneleştiren veya kıyafetlerin içini gördüğünü iddia eden uygulamaları (şaka amaçlı olsa bile) açıkça yasaklıyor. TTP, mağazalarda 'nudify' veya 'undress' gibi basit aramaların, bu kelimelerle reklam veren uygulamaları bulmak için yeterli olduğunu belirtiyor.
TTP'nin sahte kadın görüntüleri kullanarak yaptığı testlerde, 55 Android uygulaması ve 47 iOS uygulaması çıplaklık veya yüz değiştirme taleplerini yerine getirdi. Hatta bu uygulamalardan en az birinin App Store'da 9 yaş ve üzeri kullanıcılar için uygun olarak derecelendirildiği tespit edildi.
Rapor, şirketlerin platformlarını etkili bir şekilde denetlemediğini veya bu tür uygulamalar söz konusu olduğunda kendi politikalarını uyguladığını vurgulayarak sona eriyor. Bu durum, uygulama mağazalarının daha katı önlemler alması gerektiğini gösteriyor.
Uygulama Mağazalarına Katı Önlemler Alma Gerekliliği
Sizce uygulama mağazaları bu tarz içerikleri engellemek için daha katı önlemler almalı mı? Bu sorun, teknolojideki hızlı gelişmelerin platformların denetim mekanizmalarının yeterli olup olmadığına dair bir soru işaretidir. Google ve Apple, bu gelirden belirli bir pay aldıkları için, kendi politikalarını ihlal eden uygulamaların faaliyetlerinden doğrudan kazanç sağlamış oluyorlar.
Uygulama mağazalarının daha etkili ve hızlı denetim mekanizmaları geliştirmesi, kullanıcıların güvenliğini arttırmak için gerekli önlemleri alması ve telif hakkı ihlallerini önlemek için önemli bir adımdır. Bu durumda, uygulama mağazalarına daha katı önlemler almanın gerekliliği açıktır.
