DHS, Google ve Adobe Yapay Zeka ile Video Üretiyor

Amerika Birleşik Devletleri İç Güvenlik Bakanlığı, halka sunulan içerikleri oluşturmak ve düzenlemek için Google ve Adobe'un yapay zeka video üreticilerini kullanmaktadır. Yeni bir belge, göçmenlik ajanslarının, Başkan Trump'ın kitlesel geri gönderme gündemini desteklemek amacıyla sosyal medyada paylaştıkları içeriklerin büyük bir kısmının yapay zeka ile üretilmiş olduğunu göstermektedir. Bu belgede, İç Güvenlik Bakanlığı'nın (DHS) belgelerin taslaklarını oluşturmak ve siber güvenliği yönetmek gibi çeşitli görevlerde kullandığı ticari yapay zeka araçlarının bir envanteri sunulmaktadır.

Belgede, DHS'nin Google'ın Veo 3 video üretici ve Adobe Firefly'ı kullanarak resimleri, videoları veya diğer kamu işleri materyallerini düzenlediği ilk kez ortaya konmaktadır. Ajansın bu araçlar için 100 ile 1,000 arasında lisansa sahip olduğu tahmin edilmektedir. Ayrıca, DHS'nin ilk taslakları oluşturmak ve uzun raporları özetlemek için Microsoft Copilot Chat'i kullandığı, kodlama görevleri için ise Poolside yazılımından yararlandığı belirtilmektedir. Google, Adobe ve DHS, konuya ilişkin yapılan yorum taleplerine hemen yanıt vermemiştir.

Bu haber, Göçmenlik ve Gümrük İdareleri gibi DHS'nin parçası olan ajansların, sosyal medya platformlarında paylaştıkları büyük miktardaki içerikleri nasıl ürettiklerine dair ayrıntılar sunmaktadır. Ajans, 'kitlesel geri gönderimlerden sonra Noel' kutlaması yapan içerikler, İncil ayetleri ve İsa'nın doğumu gibi referanslar içeren paylaşımlar yapmış, ayrıca tutukladığı kişilerin yüzlerini gözetim altında tutmuş ve ajan alımı için reklamlar yayınlamıştır. Ajans aynı zamanda, videolarında sanatçılardan izin almadan müzik kullanımı gibi etik sorunlarla da karşılaşmıştır.

Bazı içerikler, özellikle videolar, yapay zeka ile üretilmiş izlenimi taşımaktadır, ancak hangi yapay zeka modellerinin kullanıldığına dair net bir bilgi bulunmamaktaydı. Bu, DHS'nin kamuoyuna sunduğu içeriklerin oluşturulmasında böyle yapıcıların kullanıldığına dair ilk somut kanıttır. Ancak, belirli bir içeriğin hangi şirket tarafından yaratıldığını veya gerçekten yapay zeka ile üretilip üretilmediğini doğrulamak hala mümkün değildir. Adobe, kendi araçlarıyla oluşturulan bir videonun 'su işareti' ile işaretlenmesi seçeneğini sunmaktadır; ancak bu açıklama, içerik farklı sitelerde yüklendiğinde her zaman korunmamaktadır.

DHS'nin ayrıca, Google'ın Veo 3 video üreticisini bir film yapım araçları seti ile birleştiren Flow adlı aracı kullandığı belirtilmektedir. Kullanıcılar, yapay zeka ile ses, diyalog ve arka plan gürültüsü içeren videolar oluşturabilir ve tüm videoları bir araya getirebilir. Adobe, 2023 yılında Firefly üreticisini tanıtmış ve bunun eğitim veya çıktılarında telif hakkına tabi içerik kullanmadığını vaad etmiştir. Bu belgede, ajansın bu video üretim araçlarını nasıl kullandığına dair daha fazla ayrıntıya yer verilmemiştir.

Büyük teknoloji şirketlerinde çalışan, Google'dan 140'tan fazla mevcut ve eski çalışan ile Adobe'dan 30'dan fazla çalışan, son haftalarda işverenleri üzerinde ICE ve 24 Ocak'ta Alex Pretti'nin vurulmasına karşı bir tavır almaları için baskı yapmaktadır. Google yönetimi bu konuda henüz bir açıklama yapmamıştır. Ekim ayında, Google ve Apple, ICE'nin gözlemlerini takip etmek amacıyla geliştirilmiş uygulamaları uygulama mağazalarından kaldırmıştır; bu durum, güvenlik riskleri nedeniyle gerçekleştirilmiştir. Ayrıca, Çarşamba günü yayımlanan bir diğer belgede, ICE tarafından kullanılan bir yüz tanıma uygulaması hakkında yeni detaylar ortaya konmuştur.