Son zamanlarda yapılan bir araştırmaya göre, internet kullanıcılarının yüzde 39’u yapay zeka ile üretilen görsel içeriklerin gerçekliğini ayırt edemiyor. Yapay zeka teknolojisi, hayatımızın çeşitli alanlarında etkisini göstermeye başladı ve hızla gelişiyor. Ancak bu gelişme bazı endişeleri de beraberinde getiriyor. Özellikle yanlış bilgilendirme ve dezenformasyon riski ön plana çıkıyor.
Derin ve sahte kelimelerin birleşimiyle oluşturulan “deepfake” kavramı, yapay zeka kullanılarak manipüle edilen ses ve görüntüleri tanımlıyor. Bu durum, sosyal medyada yanlış bilgilerin yayılmasına neden oluyor. Derin öğrenme algoritmaları kullanılarak geliştirilen bu teknoloji, sosyal medya platformlarında insanları manipüle etmek için yoğun bir şekilde kullanılıyor. Siyasetçilerden bilim insanlarına kadar birçok tanınmış kişinin deepfake videoları sosyal medyada dolaşıma sokuluyor.
Çeşitli amaçlarla paylaşılan bu videoların hedefi etkileşim almak ya da siyasi manipülasyon yapmaktır. Son dönemde ise deepfake videolar dolandırıcılık faaliyetlerinde sıkça kullanılmaktadır. Kanada’daki Waterloo Üniversitesi’nin yaptığı bir araştırmaya göre, kullanıcıların yüzde 61’i yapay zeka tarafından oluşturulan görsellerin gerçekliğini ayırt edebiliyor. Ancak bu oran çok yüksek değil, çünkü kullanıcıların yüzde 39’u yapay zeka ile üretilen içerikleri gerçek sanıyor.
Uzmanlar, yapay zeka ile üretilmiş sahte videoları ayırt etme becerisinin beklenenden çok daha düşük olduğunu belirtiyor. Bu durum, sosyal medyada yayılan yanlış bilgilerin ve manipülasyonların artmasına sebep olabilir.
