Yapay zeka dünyasında şeffaflık ve güvenlik adına tarihi bir adım atılıyor. OpenAI, Avrupa Birliği Yapay Zeka Yasası kapsamındaki "makine tarafından üretilen içeriklerin tespit edilebilir olması" yükümlülüğüne uyum sağlamak amacıyla yeni sistemini duyurdu.
Şirket, önümüzdeki haftalardan itibaren Avrupa Birliği sınırlarındaki uygun ChatGPT ve Codex metin çıktılarında “textGrain” adı verilen filigranlama teknolojisini kullanmaya başlayacak.
Sistem Nasıl Çalışacak? "Görünmez Boşluk Yok, İstatistiksel Örüntü Var"
Kullanıcıların en çok merak ettiği konuların başında filigranın metnin yapısını bozup bozmayacağı geliyordu. OpenAI yetkilileri, sistemin metne gizli karakterler, görünmez boşluklar veya harici işaretler eklemediğini vurguladı.
Bunun yerine yapay zeka modelinin kelime ve kelime parçacıklarını (token) seçme algoritması hafifçe değiştirilerek metin içerisine istatistiksel bir örüntü işleniyor. Bu sayede filigran insan gözüyle görülemiyor, kopyala-yapıştır yapıldığında metin biçimsel olarak zarar görmüyor ancak özel araçlarla tespit edilebiliyor.
Uygulama Şimdilik Sadece AB İle Sınırlı Olacak
OpenAI, yeni uygulamayı ilk aşamada küresel bir standart haline getirmeyecek ve yalnızca Avrupa Birliği ülkelerindeki kullanıcılara sunacak. Ancak API müşterileri, desteklenen modellerde bu filigran özelliğini dünya genelinde isteğe bağlı olarak aktif edebilecek.
%100 Kesin Sonuç Vermiyor: Yeniden Yazılırsa Sinyal Zayıflıyor
Şirket, filigranın tespiti konusunda yöntemin yanılmaz olmadığını özellikle belirtiyor:
Kısa Metinlerde Tespit Zor: Kısa veya kelime alternatiflerinin az olduğu metinlerde filigranın belirlenmesi zorlaşıyor.
Düzenleme Sinyali Azaltıyor: Metnin önemli ölçüde yeniden yazılması, düzenlenmesi veya başka bir dile çevrilmesi durumunda filigran sinyali zayıflayabiliyor.
Erişim Sınırlı Olarak Sunulacak: OpenAI, filigranı tespit edecek "dedektör" yazılımı ilk etapta kamuoyuna açık paylaşmayacak; yalnızca onaylı araştırmacılar ve uzman kuruluşların kullanımına açacak.
