Google'ın yeni video üretim araçlarını tanıtmaya başlamasıyla birlikte şirket, giderek daha gerçekçi AI tarafından oluşturulan videoların kökeni hakkında şeffaflığı sağlamak için bir planı olduğunu belirtiyor. Şirketin VideoFX uygulamasındaki yeni Veo modeli tarafından oluşturulan tüm videolar, Google'ın SynthID sistemi sayesinde dijital filigrana sahip olacak. Dahası, SynthID, Gemini'den gelen AI tarafından oluşturulan metni de filigranlayabilecek.
SynthID, Google'ın geçen yıl AI tarafından oluşturulan görüntülere uygulamaya başladığı dijital filigranlama sistemidir. Bu teknoloji, AI tarafından oluşturulan içeriğe algılayıcı araçların içeriklerin AI tarafından oluşturulduğunu tanımasını sağlayacak şekilde gözle görülmez filigranlar ekler. Özellikle I/O etkinliğinde sahneye çıkarılan Veo'nun, öncekinden çok daha uzun ve yüksek çözünürlüklü klipler oluşturabilme yeteneği göz önüne alındığında, bu tür içeriğin kaynağını izlemek giderek daha önemli hale gelecektir.
Üretken AI modeller ilerledikçe, daha fazla şirket, AI'nın yeni bir yanıltıcı içerik dalgasına sebep olabileceğinden korktuğundan dolayı filigranlama yöntemlerine başvurmuştur. Filigranlama sistemleri, Google gibi platformlara, AI tarafından oluşturulan içeriği ayırt etmenin aksi halde imkânsız olabileceği bir çerçeve sunacaktır. TikTok ve Meta da son zamanlarda platformlarında benzer tespit araçlarını destekleme ve uygulamalarındaki AI içeriğini daha fazla etiketleme planlarını duyurmuşlardır.
Elbette, dijital filigranların tek başına yanıltıcı AI içeriğine karşı yeterli koruma sağlayıp sağlamadığına dair önemli sorular var. Araştırmacılar, filigranların kolayca atlatılabileceğini göstermiştir. Ancak AI tarafından oluşturulan içeriğin herhangi bir şekilde algılanabilir hale getirilmesi, şeffaflık adına önemli bir ilk adımı oluşturmaktadır.
Google I/O 2024'ten tüm haberleri buradan yakalayabilirsiniz!