Yapay zeka alanında önde gelen şirketlerden OpenAI’nin popüler sohbet aracı ChatGPT’nin yeni sürümlerinde oluşturulan metinlere, belirgin bir filigran eklendiği tespit edildi.
Rumi Technologies araştırma ekibi, bu filigranların özellikle ChatGPT’den daha uzun içerikler talep edildiğinde ortaya çıktığını belirledi.
Filigranlama işlemi, standart boşluklara benzer görünüme sahip ancak farklı ASCII kodları içeren özel Unicode karakterleri kullanılarak uygulanıyor. Bu özel karakterler, yapay zekanın ürettiği metne gizli bir işaret bırakıyor.
GİZLİ KARAKTERLERİN TESPİTİ
Araştırmacılar, GPT-4o gibi daha önceki ChatGPT modellerinde bu tür filigranların mevcut olmadığını ortaya koyuyor.
Kullanıcılar, bu gizli karakterleri çeşitli çevrimiçi araçlar ya da Sublime Text gibi gelişmiş metin düzenleme yazılımları aracılığıyla tespit edebilirler.
Özel karakterlerin metin içindeki dağılımının rastgele değil, sistematik bir desene sahip olduğu belirlenmiştir.
Bu durum, filigranlama özelliğinin OpenAI geliştiricileri tarafından bilinçli bir şekilde uygulandığı fikrini güçlendiriyor.
Söz konusu gelişme, OpenAI’nin yapay zeka tarafından üretilen görsellere de filigran eklemeyi denemeye başlamasından kısa bir süre sonra gerçekleşti.
FİLİGRANIN AMACI
Metinlere eklenen filigranların ana hedefi, içeriğin yapay zeka tarafından oluşturulup oluşturulmadığını belirlemeye yardımcı olmaktır.
Yine de, bu yöntemde bazı sınırlamalar mevcut; kullanıcılar filigranların varlığı hakkında bilgi sahibi olduktan sonra, bu karakterleri kolayca kaldırabilirler.
Basit bir “bul ve değiştir” işlemiyle, metindeki özel Unicode karakterler standart karakterlerle değiştirilebilir.
Bu durum, özellikle ChatGPT’nin 31 Mayıs’a kadar öğrenciler için ücretsiz sunulduğu ve final projeleri ile ödevlerin yoğunlaştığı bu dönemde büyük önem taşıyor.
