Son zamanlarda popülerlik kazanan AI destekli görüntü oluşturucu Midjourney, ABD başkanlık seçimleri öncesi bu yılın başlarında bu tür görüntüleri engelleyeceğini söylemesine rağmen, Donald Trump ve Joe Biden'ın görüntülerini oluşturuyor.
Midjourney, Trump'ın çeşitli stillerde dört farklı görüntüsünü oluşturduğu "ABD başkanı" isteğine yanıt verirken, "sonraki ABD başkanı" isteğine de yine dört Trump görüntüsü oluşturdu. "Mevcut ABD başkanı" isteği üzerine üç Trump ve bir Barack Obama görüntüsü üretti.
Ancak Midjourney, Trump veya Biden'ın görüntüsünü oluşturmaktan kaçınmadı. Öte yandan OpenAI'nın ChatGPT, Microsoft'un Copilot, Google'ın Gemini ve Meta AI gibi diğer sohbet botları, birden fazla istekte bulunmalarına rağmen Trump veya Biden'ın görüntülerini oluşturmadı.
Midjourney, Engadget'in yorum talebine cevap vermedi. Ancak bu yılın başlarında şirketin CEO'su David Holz, kullanıcılara Discord üzerinde yaptığı sohbet oturumunda, "Trump resimleri yapmak eğlenceli olabilir ben de yapıyorum," demişti. "Ancak belki de seçim döneminde biraz geri çekilmek daha iyi olur. Göreceğiz."
Geçen yıl Midjourney, Papa Benedict'in üzerinde Balenciaga mont giydiği sahte bir görüntü oluşturmak ve Trump'ın hush para ödemesine karıştığı için Manhattan Ceza Mahkemesi'nde yargılanması öncesinde tutuklandığına dair sahte görüntüler oluşturmak için kullanılmıştı. Bu olayın ardından şirket, ücretsiz deneme sürümlerini durdurmuş ve hizmeti kullanmak isteyenlerden en az 10 dolar aylık ücret talep etmeye başlamıştı.
Midjourney'ın yanıltıcı görüntüleri engelleme konusundaki başarısızlığı üzerine, Dijital Nefreti Durdurma Merkezi (CCDH) geçen ay, popular politikacılar, Trump ve Biden'ı içeren yanıltıcı görüntülerin oluşturulması üzerinde Midjourney'ın korumasının yüzde 40 başarısız olduğunu tespit etti. CCDH, Midjourney'ın korumalarını, her iki adayın isimlerinin yerine fiziksel görünümlerinin tanımlamalarını kullanarak yanıltıcı görüntüler oluşturarak aşmayı başardı.
Bu gelişmeler ışığında, Midjourney'ın pratikte çok kolay manipüle edilebildiği ve kötü niyetli kişilerin seçimleri altüst etme, karışıklık ve kaos yayma konusunda avantaj sağlayabileceğine dikkat çekilmekte. Bu durum ise sağlıklı ve işlevsel demokrasilere güvenen herkesi olumsuz etkileyebilir.
Iyi bilinmesi gereken bir başka önemli nokta ise, bu olayların uzun vadede küresel seçimlerde deepfake'leri önlemeye yönelik bir adım olarak 2024'teki seçimlerde etkili olması için, OpenAI, Google, Meta, Amazon, Adobe ve X gibi 20 teknoloji şirketinin imzaladığı bir anlaşmada yer almadığı.
Bu gelişmeler ışığında, Midjourney'ın bu tür yanıltıcı görüntüleri engelleme konusundaki başarısızlığı ve bu tür potansiyel tehlikeler, teknoloji dünyasında derin tartışmalara yol açacağa benziyor.
Dikkatli olunmalıdır ki, bu tarz teknolojik gelişmelerin insan hayatı ve demokrasiler üzerindeki etkileri iyice gözlemlenmeli ve önlemler alınmalıdır.
