M
Mehmet
Misafir
Yapay zeka ile oluşturulan ve gerçek ile sahteyi ayırt etmeyi giderek güçleştiren “deepfake” (derin sahte) teknolojisi, tespit mekanizmalarını alt etme yolunda önemli bir adım attı. Almanya’daki Humboldt Üniversitesi ve Fraunhofer HHI enstitüsünden araştırmacılar, son teknoloji deepfake videoların artık gerçekçi bir kalp atışı ritmini ve buna eşlik eden ciltteki mikro renk değişimlerini başarıyla taklit edebildiğini ortaya çıkardı. Bu durum, sahte videoları ifşa etmek için kullanılan kritik bir yöntemin etkinliğini tehlikeye atıyor.
Uzun süredir, videodaki kişilerin yüzündeki kan akışına bağlı anlık renk değişimlerini analiz ederek nabızlarını uzaktan tespit etme yöntemi (remote photoplethysmography – rPPG), deepfake’leri ayırt etmede potansiyel bir araç olarak görülüyordu. Çünkü önceki deepfake’ler genellikle bu fizyolojik detayı kopyalayamıyordu. Ancak *Frontiers in Imaging* dergisinde yayınlanan yeni çalışmaya göre, bu durum artık değişti. Araştırmacılar, güncel ve yüksek kaliteli deepfake’lerin, gerçek bir insanınkine çok benzeyen nabız sinyalleri sergileyebildiğini, bunun da rPPG tabanlı tespit sistemlerini kandırabileceğini gösterdi. Bu, deepfake üreticileri ile tespit algoritmaları arasındaki “teknolojik silahlanma yarışında” sahte içeriklerin bir adım öne geçtiği anlamına geliyor.
Araştırmanın belki de en çarpıcı bulgusu, bu gerçekçi nabız etkisinin deepfake’e kasıtlı olarak eklenmesinin gerekmemesi. Deepfake oluşturulurken, yüz hareketlerinin veya mimiklerin kopyalandığı kaynak (“sürücü”) videodaki gerçek kişinin cildinde bulunan ve kalp atışıyla senkronize olan çok hafif renk dalgalanmaları, yüz hareketleriyle birlikte hedef videodaki sahte yüze istemeden “miras kalabiliyor”. Berlin Humboldt Üniversitesi’nden Prof. Dr. Peter Eisert ve ekibi, geliştirdikleri hassas bir rPPG tespit sistemiyle yaptıkları deneylerde, bilinçli olarak nabız eklenmemiş deepfake videolarda bile şaşırtıcı derecede gerçekçi ve tutarlı nabız sinyalleri algıladıklarını rapor etti.
Bu gelişme, sadece videodaki kişinin genel nabız hızına odaklanan mevcut deepfake tespit yöntemlerinin gelecekte yetersiz kalacağı anlamına geliyor. Ancak araştırmacılar umutsuz değil. Prof. Eisert’e göre, deepfake’ler genel bir kalp atışı ritmini taklit etmede ustalaşmış olsalar da, yüzün farklı bölgelerindeki kan akışının zaman ve mekan içindeki fizyolojik olarak doğru değişimlerini (örneğin alındaki kan akışının yanaktakinden anlık farklılıkları gibi) kusursuz bir şekilde kopyalamakta hala zorlanıyor olabilirler. Bu nedenle, gelecek nesil deepfake tespit sistemlerinin, sahte videoların bu potansiyel “zayıf noktasına”, yani yüzdeki kan akışı dinamiklerindeki bölgesel tutarsızlıklara odaklanarak geliştirilmesi gerektiği öneriliyor.
Deepfake’ler Artık Kalp Atışını da Taklit Ediyor: Sahteyi Ayırt Etmek Çok Daha Zor! yazısı ilk önce BeeTekno | Güncel Teknoloji Haberleri ve İncelemeler yayınlanmıştır.
Okumaya devam et...
Nabız Analizi Yöntemi Tehdit Altına Girdi
Uzun süredir, videodaki kişilerin yüzündeki kan akışına bağlı anlık renk değişimlerini analiz ederek nabızlarını uzaktan tespit etme yöntemi (remote photoplethysmography – rPPG), deepfake’leri ayırt etmede potansiyel bir araç olarak görülüyordu. Çünkü önceki deepfake’ler genellikle bu fizyolojik detayı kopyalayamıyordu. Ancak *Frontiers in Imaging* dergisinde yayınlanan yeni çalışmaya göre, bu durum artık değişti. Araştırmacılar, güncel ve yüksek kaliteli deepfake’lerin, gerçek bir insanınkine çok benzeyen nabız sinyalleri sergileyebildiğini, bunun da rPPG tabanlı tespit sistemlerini kandırabileceğini gösterdi. Bu, deepfake üreticileri ile tespit algoritmaları arasındaki “teknolojik silahlanma yarışında” sahte içeriklerin bir adım öne geçtiği anlamına geliyor.
Sahte Nabız Sinyali Videoya Farkında Olmadan Aktarılıyor
Araştırmanın belki de en çarpıcı bulgusu, bu gerçekçi nabız etkisinin deepfake’e kasıtlı olarak eklenmesinin gerekmemesi. Deepfake oluşturulurken, yüz hareketlerinin veya mimiklerin kopyalandığı kaynak (“sürücü”) videodaki gerçek kişinin cildinde bulunan ve kalp atışıyla senkronize olan çok hafif renk dalgalanmaları, yüz hareketleriyle birlikte hedef videodaki sahte yüze istemeden “miras kalabiliyor”. Berlin Humboldt Üniversitesi’nden Prof. Dr. Peter Eisert ve ekibi, geliştirdikleri hassas bir rPPG tespit sistemiyle yaptıkları deneylerde, bilinçli olarak nabız eklenmemiş deepfake videolarda bile şaşırtıcı derecede gerçekçi ve tutarlı nabız sinyalleri algıladıklarını rapor etti.
Tespit İçin Yeni Zayıf Noktalar Aranıyor
Bu gelişme, sadece videodaki kişinin genel nabız hızına odaklanan mevcut deepfake tespit yöntemlerinin gelecekte yetersiz kalacağı anlamına geliyor. Ancak araştırmacılar umutsuz değil. Prof. Eisert’e göre, deepfake’ler genel bir kalp atışı ritmini taklit etmede ustalaşmış olsalar da, yüzün farklı bölgelerindeki kan akışının zaman ve mekan içindeki fizyolojik olarak doğru değişimlerini (örneğin alındaki kan akışının yanaktakinden anlık farklılıkları gibi) kusursuz bir şekilde kopyalamakta hala zorlanıyor olabilirler. Bu nedenle, gelecek nesil deepfake tespit sistemlerinin, sahte videoların bu potansiyel “zayıf noktasına”, yani yüzdeki kan akışı dinamiklerindeki bölgesel tutarsızlıklara odaklanarak geliştirilmesi gerektiği öneriliyor.
Deepfake’ler Artık Kalp Atışını da Taklit Ediyor: Sahteyi Ayırt Etmek Çok Daha Zor! yazısı ilk önce BeeTekno | Güncel Teknoloji Haberleri ve İncelemeler yayınlanmıştır.
Okumaya devam et...
