Pokémon GO ilk çıktığında çoğu insan onu eğlenceli bir mobil oyun olarak gördü. Ekranda Pikachu yakalıyor, sokakta biraz daha fazla yürüyorduk. Meğer teslimat robotları için sokak görseli topluyormuşuz. Oyunun üreticisi Niantic bugün gizlilik politikasında konum, cihaz tanımlayıcıları, kullanım verisi ve bazı durumlarda görsel veri topladığını açıkça söylüyor. Şirket ayrıca 2024’te dünya genelinde 10 milyon taranmış konuma ulaştığını ve bu taramaların mekânsal haritalama sisteminin temel girdilerinden biri olduğunu açıkladı. Yani milyonlarca insan bir oyun oynarken, aynı anda gerçek dünyanın makine tarafından okunabilir katmanını da beslemiş.

Bugün GenAI araçları da akıllı bir sohbet ve bilgi kaynağı olarak görünüyor. Oysa bu sistemler yüklediğiniz belgeleri görüyor, dosyaları işliyor, bazı ürünlerde tarayıcı bağlamına giriyor, bazılarında takvim, e-posta, toplantı ve kurumsal içerikle çalışıyor, bilgisayarınızın dizinlerini düzenliyor. Artık bu sistemler giderek daha ayrıntılı bir davranışsal ve bağlamsal profil çıkarma kapasitesi kazanıyor. Bilgisayarlar tarafından manipüle edilmeye hazır mısınız?

Sorun kullandığınız araçta model eğitimi izininin açık olmasıyla sınırlı değil. Bir verinin temel model eğitimine gitmemesi, o verinin etkisiz ya da risksiz olduğu anlamına gelmiyor. Veri saklanabilir, loglanabilir, insan incelemesine açılabilir, ürün iyileştirmede kullanılabilir ve profillemeye elverişli hale gelebilir.

Bu sistemler hakkınızda nasıl bir temsil üretiyor? Hangi düşünme alışkanlığınızı, hangi karar düzeninizi, hangi zaafınızı, hangi önceliğinizi sizden daha düzenli biçimde kayda geçiriyor? Bu, klasik mahremiyet tartışmasının ötesinde, Cambridge Analytica skandalını anımsatan bir davranışın arşivlenmesi sorunu.

Resmi metinlerde OpenAI, iş kullanıcılarının verilerinin varsayılan olarak eğitim için kullanılmadığını söylüyor. Microsoft 365 Copilot da prompt ve yanıtların temel modelleri eğitmek için kullanılmadığını belirtiyor. Google Gemini Apps Activity için 18 aylık varsayılan saklama rejimi ve bazı koşullarda insan incelemesi sağlıyor. Kurumsal AI müşterisi daha güçlü korumalar görürken bireysel kullanıcı daha gevşek ve daha vahşi bir veri piyasasında yaşıyor. Dijital eşitsizliğin tüketiciden başlıyor.

Muhtemelen Pokemon gibi on yıla varmadan hayatımızın akışını hangi sistemlere açtığımızın sonuçlarını yaşamaya başlayacağız. Bu yüzden veri siyasetini konuşmak zorundayız. Varsayılan ayarların getirdiği koşullar açık ve anlaşılır olmalı. Model eğitimi, veri saklama ve bağlamsal izleme regülasyon ile netleştirilmeli. Kullanıcıya gerçek bir ret hakkı tanınmalı. Aksi halde yapay zeka bize yardım eden bir araç olmaktan çıkıp bizi sürekli çözümleyen ve istediği gibi manipüle edebilecek bir yapıya dönüşecek. Şimdiden manipüle etmeye başlamadıysa elbette.