Meta’nın yapay zekâ destekli resim üreticisi, basit gibi görünen bazı isteklerde doğru görseller oluşturmada zorlanıyor. Özellikle “Asyalı erkek ve Kafkas arkadaşı” ya da “Asyalı erkek ve beyaz eşi” gibi ifadelerle yapılan sorgulamalarda, programın ırklar arası çiftleri yansıtan görseller üretmekte başarısız olduğu görülüyor. Bunun yerine, Meta’nın resim üreticisi, açıkça aksini belirten yönlendirmelere rağmen, aynı ırktan insanların görsellerini oluşturma eğilimi gösteriyor.
Meta’nın web tabanlı resim üreticisini kendi testlerimizde denediğimizde, “Asyalı bir erkek ve beyaz bir kadın arkadaş” veya “Asyalı bir erkek ve beyaz eşi” için yapılan istekler, Asyalı çiftlerin görselleriyle sonuçlandı. “Çeşitlilik içeren bir grup insan” talebiyle ise, dokuz beyaz yüz ve bir renkli kişiden oluşan bir ızgara oluşturuldu. Ancak nadiren, isteği yansıtan tek bir sonuç ürettiği durumlar oldu; çoğu durumda, istenen ifadeyi doğru bir şekilde tasvir etmekte başarısız oldu.
Facebook yapay zeka konusunda fena çuvalladı, uygulaması doğru düzgün çalışmıyor
Meta AI’da, örneğin Asyalı erkeklerin daha yaşlı, Asyalı kadınların ise daha genç gösterilme eğilimi gibi, ırksal önyargıların daha “ince” işaretleri de bulunuyor. Ayrıca, istekte belirtilmemesine rağmen bazen “kültürel özgü giysiler” ekleniyor.
Meta AI’nin bu tür isteklerle neden mücadele ettiği belirsizliğini koruyor. Ancak, ırkın tasviri konusunda eleştiri alan ilk yapay zeka platformu bu değil. Google’ın Gemini resim üreticisi, tarihi figürlere ilişkin isteklere çeşitliliği aşırı düzeltme girişiminde tuhaf sonuçlar ürettikten sonra insan görselleri oluşturma yeteneğini durdurdu. Google daha sonra, çeşitli sonuçların uygunsuz olduğu durumları hesaba katmadaki iç güvenlik önlemlerinin başarısız olduğunu açıkladı.
Meta, bu konudaki bir yorum talebine hemen yanıt vermedi. Şirket daha önce, Meta AI’nin “beta” aşamasında olduğunu ve hatalar yapmaya meyilli olduğunu belirtmişti. Meta AI, güncel olaylar ve kamu figürleri hakkında basit soruları doğru yanıtlamada da zorlanıyor. Bu durumlar, yapay zekâ teknolojilerinde ırksal önyargı ve çeşitlilik konularında önemli gelişmelerin gerekliliğini bir kez daha gündeme getiriyor.
