Şu yazıyı okuyorsunuz: Çin’in yeni içerik politikası: Yapay zeka tarafından oluşturulan medya dosyalarında neden artık filigran olmalı?
Yapay zekanın (AI) kullanımı küresel olarak hızla genişledikçe, uygulanmasıyla ilgili etik kaygılar da artıyor. Bu endişelerden biri, yapay zeka tarafından oluşturulan görüntülerin veya “derin sahte görüntülerin”, sahte haberler oluşturmak veya birinin bilgisi olmadan birinin kimliğine bürünmek gibi kötü amaçlarla kullanılma potansiyelidir. Bu endişelere yanıt olarak Çin hükümeti, filigran veya diğer belirgin etiketler olmadan yapay zeka tarafından oluşturulan görsellerin oluşturulmasını yasaklayan yeni bir kılavuz yayınladı.
Çin Siber Uzay İdaresi direktifi yayınladı“Yapay zeka, etik olmayan kişiler tarafından yasa dışı ve zararlı bilgiler üretmek, kopyalamak, yayınlamak ve yaymak, başkalarının itibar ve onuruna iftira atmak ve aşağılamak ve ayrıca diğer insanların kimliğini tahrif etmek için kullanılıyor.” Kılavuz, bu tür faaliyetlerin “deepfake teknolojisinin olumsuz sosyal etkisini en üst düzeye çıkardığını” ve “deepfake teknolojisi üreticileri ve kullanıcılarının ilgili sosyal sorumlulukları taşıması gerektiğini” ifade ederek devam ediyor.
Bu, Çin hükümetinin yapay zeka tarafından oluşturulan içeriği düzenlemek için attığı ilk adım değil. Şubat 2019’da Siber Uzay İdaresi, “kişisel bilgi asistanlarının” geliştirilmesini ve kullanımını düzenleyen yeni kurallar yayınladı; bunlar arasında deepfake’lerin “kötü niyetli” amaçlarla kullanılmasının yasaklanması da vardı. Bu düzenlemeler büyük ölçüde deepfake teknolojisinin artan popülaritesine ve bunun kötü amaçlarla kullanılma potansiyeline bir yanıt olarak görülüyordu.
Yapay zeka tarafından oluşturulan görüntülere ilişkin yeni yönergelerin, Çin’de deepfake teknolojisinin nasıl kullanıldığı üzerinde önemli bir etkisi olması muhtemeldir. Hükümet, filigran veya diğer etiketler olmadan yapay zeka tarafından oluşturulan görsellerin oluşturulmasını yasaklayarak sosyal medyayı etkili bir şekilde sansürlüyor.
Gözden geçirilen yönergeler, deepfake’lerin aynı zamanda aşağıdaki etiketleri taşımasını gerektirmektedir:
Bilgilendirici içerik oluşturan veya önemli ölçüde değiştiren ve akıllı diyalog, sentetik insan sesi, insan yüzü oluşturma ve sürükleyici gerçekçi ortamlar gibi özellikler sunan hizmetler, kamuoyunun kafa karışıklığını veya yanlış tanımlamayı önlemek için görünür bir yerde incelenmelidir.
Çin ayrıca filigranların kaldırılması sorumluluğunu da üstleniyor.
Ek olarak, deepfake teknolojisi sağlayıcılarının yasal kayıtları tutması gerekirken, kullanıcıların da üretim faaliyetlerinin izlenebilmesi için hesaplarını gerçek adlarıyla kaydetmeleri gerekiyor.
Daha fazla AI haberini okuyun:
