Yapay zeka destekli yeni nesil takip sistemleri geliştiren bir firmanın, vatandaşların gelecekteki siyasi düşüncelerini ve muhalif eğilimlerini önceden tahmin edebilen bir yazılım üzerinde çalıştığı belgelendi.
Söz konusu sızıntıya göre, Geedge Networks adlı teknoloji şirketi, bireylerin internet kullanımlarını, anlık seyahat hareketlerini, sosyal çevre ilişkilerini ve tüm çevrimiçi davranış kalıplarını yapay zeka algoritmasıyla analiz ediyor. Sistemin asıl korkutan yanı ise sadece geçmiş verileri izlemekle kalmayıp, kişilerin ilerleyen süreçte devlete karşı bir memnuniyetsizlik veya muhalif bir tutum sergileyip sergilemeyeceğini önceden raporlaması oluyor.
Yapay zeka odaklı bu teknoloji, adeta bir "zihin okuma" mekanizması gibi çalışarak bireylere risk puanlaması yapıyor. Vatandaşların dijital ayak izlerinden yola çıkan yazılım, henüz ortada hiçbir eylem veya söylem yokken, yapay zeka tahminleriyle potansiyel muhalifleri erkenden tespit edip fişlemeyi amaçlıyor.
The New York Times'ta yer alan habere göre, uluslararası insan hakları savunucuları bu gelişmeye çok sert tepki gösterdi. Uzmanlar, söz konusu teknolojinin bireysel mahremiyeti tamamen yok edeceğini, ifade özgürlüğü üzerinde ağır bir baskı oluşturacağını ve insanlığı distopik bir dijital hapishaneye sürükleyeceğini belirtiyor.
"Öngörücü Polislik" Çin Sınırlarını Aşabilir
Çin yönetiminin son yıllarda yapay zekayı çevrimiçi içerik sansürü, yüz tanıma tabanlı risk puanlaması ve "öngörücü polislik" gibi kitlesel gözetim mekanizmalarına agresif bir şekilde entegre ettiği zaten biliniyordu. Ancak bu son sızıntı, kontrol arzusunun ulaştığı ürkütücü boyutu gözler önüne serdi.
İddiaların odak noktasındaki Geedge Networks şirketi ve Çinli yetkililer henüz konuya ilişkin resmi bir açıklama yapmadı. Siber güvenlik ve dijital haklar uzmanları ise asıl tehlikenin bu teknolojinin ihraç edilmesi olduğunu vurguluyor. Yapay zeka tabanlı bu gözetim sistemlerinin Çin sınırlarının ötesine geçerek diğer ülkelere satılması halinde, küresel ölçekte sivil özgürlüklerin ve dijital hakların geri dönülemez bir darbe alacağı konusunda ciddi uyarılar yapılıyor.