Telefon : +90 212 275 71 06  
Yapay zeka, özgür sesleri bastırmak için nasıl kullanılır ?

Yapay zeka, özgür sesleri bastırmak için nasıl kullanılır ?

İnternet'in hoşgörüsü olmayan yönetimlere karşı ezici bir demokratikleştirici güç olması gerekiyordu. Olmadı. Bastırılmış vatandaşların gözlerini açması, onları yeni demokratik idealler göstermesi ve otoriter hükümetlere karşı temel insan haklarını beyan ederken yardımcı olması gerekiyordu. Olmadı. Özünde merkezi denetime dirençli olması gerekiyordu. Olmadı.


Aslında bir çok ülkede, tam da özgürlüğün balyozu gibi otorite duvarlarını yıkması gereken Internet, bir yandan muhalifleri ve karşı görüşlüleri ezerken bir yandan kendi gündemlerini zorla kabul ettirmek amacıyla bir çok rejimin destek aldığı bir şey haline geldi. Google'ın Allo ve Jigsaw ya da Intel'in Hack Harassment girişimi gibi hizmetlerin merkezindeki teknoloji olan konuşan yapay zekanın ortaya çıkmasıyla birlikte bu hükümetler vatandaşlarını daha da fazla sansürlemek için yeni bir araca sahip olabilir.


Türkiye, Brezilya, Mısır, Hindistan ve Uganda, iktidardaki partileri için politik açıdan avantajlı olduğunda Internet erişimini kesebiliyor. Singapur, Rusya ve Çin gibi ülkeler kendi ulusal ağlarının yapısı ve işlevi üzerinde aşırı kontrol uyguluyor ve genelde kendi dijital sınırları içindeki bilgi akışını kontrol etmek için politik, teknik ve sosyal düzenlerin bir karışımına bel bağlıyorlar.


Bu politikaların etkisi apaçık ortada.Internet özgürlüğü gözlemcisi Freedom House tarafından 2016'da hazırlanan bir rapora göre, tüm Internet kullanıcılarının üçte ikisi iktidardaki yönetime yönelik eleştirilerin sansürlendiği ülkelerde yaşıyor; kullanıcıların yüzde 27'si, popüler olmayan fikirlerin sosyal medyada yayınlanması, paylaşılması ya da desteklenmesi halinde tutuklama ile karşılaşabileceğiniz ülkelerde yaşıyor.


Örneğin Çin'i ele alalım. Facebook'taki anonim bir kaynak geçtiğimiz Kasım'da NYT şirketinin, CEO Mark Zuckerberg'ın Çin pazarını Batılı sosyal ağlara açmasını umduğu bir sadakat belirteci olan CPC için bir otomatik sansür aracı geliştirdiğini iddia etti. Facebook'un kullanıcı tarafından üretilen içeriği doğrudan sansürlemesi çok olası olmasa da, etkisi, aracın Çin'deki üçüncü taraf bir şirket tarafından kullanılması halinde gerçekleşecek olanla aynıydı.


Facebook bunu Çin'de yapmak istiyorsa, Trump yönetiminin ısrarı karşısında Amerika'da da aynısını yapmasını ne engelleyebilir? Ardından Twitter, Instagram ya da Snapchat'in (FB'ye ait) de bu yolu izlemeyeceğini kim bilebilir? Twitter, Facebook ve Intel bu öyküye yorum yapmayı reddetti. Ancak öncü AI araştırmacılarından ve TU Berlin'de hali hazırda konuk profesör olan Dr. Toby Walsh böyle bir sonucun mümkün olduğuna inanıyor ve ekliyor: "1984 benzeri senaryoları düşündüğümüzde, AI kesinlikle bunu yapabilecek bir teknoloji".


Ülke kapitalist piyasalara yavaş yavaş ısınırken ve daha açık bir ekonomi haline gelirken, Çin Komünist Partisi (CPC) uzun süredir dijital kültürü sıkı bir denetim altında tutuyor. Internet kullanan dünya nüfusunun dörtte biri (neredeyse 700 milyon kişi) Çin'de. Bu ülkedeki web kullanıcılarının yüzde 90'ı web erişimini bir mobil cihazdan sağlıyor ve yalnızca 2015'te 40 milyondan fazla yeni kullanıcı ilk kez oturum açtı.


Hal böyleyken, Çin'in modern tarihindeki en büyük kültürel öykülerin bazıları bu ülkenin sınırları içinde gerçekleşmiyor. Çin ulusal Internet'inde 1989 Tiananmen Meydanı baskısının referansları öylesine geniş çaplı silinmiş ki 2015'te mali kurumlar 4 ya da 6 rakamlarını içeren para transferlerinin yapılamadığını rapor etti, zira bu rakamlar protestoların yıl dönümü olan 4 Haziran tarihini belirtiyordu. Tabi ki mükemmel güvenlik diye bir şey yok. Carnegie Mellon Üniversitesi İnsan Bilgisayar Etkileşimi Enstitüsü'nden Doçent Doktor Jason I. Hong, Engadget'e yazdığı bir makalede "insanların bu gibi sistemleri aşma konusunda yaratıcı olduğunu" söylüyor ve ekliyor: "Çin'de insanlar bazen, sansürü bir süreliğine delmek için Tiananmen Meydanı protestolarını 35 Mayıs (4 Haziran) tarihiyle anıyor."


Ayrıca GreatFire.org'a göre 2015 itibarıyla yaklaşık 3.000 web sitesi ülke yönetimi tarafından engellenmiş durumda. Bunlara Google, Facebook, Twitter ve  New York Times da dahil. Bu yaygın sansür Çin'in tepeden tırnağa ulusal ağ tasarımına yönelik bir ahit gibi.


Temelde Çin sansürü, sizi sürekli göz altında tutarak muhalif fikirleri daha başlamadan durduruyor. ABD'nin aksine Çin ISP'leri ve web siteleri, kullanıcılarının yayınladığı içerik konusunda yasal olarak sorumlu, bu da onları devletin resmi olmayan editörleri olmaya zorluyor. Öyle ki CPC'nin icraatını eleştiren politik fikirlerle bağlantılı olmak dava açılabilir suç niteliğinde. ISP'leri ve web sitelerini kapatmakla tehdit eden hükümet, aksi halde baş edemeyeceği kadar büyük bir nüfusu izlemeye yardımcı olmaya zorlanan bu ek iş gücünden yararlanabiliyor. Bir konuşan AI sistemi aynı etkiyi çok daha verimli bir şekilde ve çok daha geniş ölçekte elde edebilir.


Devlet sansürünün eli sosyal medyaya kadar uzanıyor. Geçtiğimiz Temmuz'da, çevrimiçi sansürden sorumlu Çin Siberuzay İdaresi, web sitelerine ve servis sağlayıcılara yeni kuralları duyurdu; buna göre hükümet, "sosyal medya gibi çevrimiçi platformlarda bulunan doğrulanmamış içeriği rapor eden haber vb. doğrudan yayınlayan" herhangi bir çıkış noktasını cezalandırabilecek. Yani bir haber kuruluşu Weibo aracılığıyla bir okuyucudan bir ipucu alırsa, bu kuruluş ceza ödeyecek ya da kapatılacak.


Tokyo Üniversitesi'nden David Bandurski, New York Times'a verdiği demeçte "Bu, rejimin dengesini korumak için medyanın politik olarak kontrol edilmesi anlamına geliyor" dedi ve ekledi: "Kullanılan dil konusunda belirsiz hiçbir şey yok ve açıkça doğru ve profesyonel olarak doğrulanabilir olsa bile 'sahte haberlerin' politik zeminde durdurulacağını kabul etmeliyiz."


Durum Amerika'da henüz bu kadar vahim değil. Geçtiğimiz 20 yılda, "kendini ifade etme üstel olarak çoğaldı. Yüce Mahkeme, özellikle de Roberts Mahkemesi, özgür ifadenin güçlü bir savunucusu oldu" diyen Maryland Carey Üniversitesi Hukuk Fakültesi'nden Hukuk Profesörü Danielle Keats Citron, Engadget'taki yazısında ekliyor: 


Tarihsel olarak mahkeme, snuff filmleri, video oyun şiddeti ve sahte askerlik hizmeti iddiaları gibi belirli konuşma biçimlerini onayladı çünkü bunlar kalabalık bir sinemada "yangın var" diye bağırmak gibi korunmasız konuşmaların dar eşiğini kasıtlı olarak karşılamıyor. Keats Citron, yazısının devamında şunları ekliyor: "Aynı zamanda," "Konuşma kararları Birinci Değişiklik kapsamında olmayan üçüncü taraf platformlarda çok fazla ifade gelişiyor."


Bu ifadelerin ölçeklendirilebilir bir kısmı çevrimiçi tacizlerden oluşuyor; Gamergate, Pizzagate, Lizard Squad ve Sad/Rabid Puppies fiyaskolarına ya da GhostBusters'ın tekrar çekimindeki rolü nedeniyle Leslie Jones'a yapılan temelsiz saldırılara bir göz atın. Birleşik Devletler Başkanlık koltuğuna yeni oturan Donald Trump bile politikalarını eleştirenlere yüklenmek için kendi Twitter beslemesinden ve takipçilerinden yararlandı.


Maryland Carey Üniversitesi Hukuk Fakültesi'nden Hukuk Profesörü Frank Pasquale'a göre "bu platformlar hakkında hatırlanması gereken şey onları bu kadar güçlü kılan şeyin -- ki bu yüzden birçok kişi tarafından kullanılıyorlar -- aynı zamanda onları konuşma özgürlüğü için benzersiz birer tehdit haline getirmesi" olduğunu söylüyor.


Tüm nefret ve sert eleştiri konuşma üzerinde boğucu bir etkiye sahip. Jones'a göre bu kadar kötüye kullanım örneği varken birçok rasyonel kişi sessiz kalmayı ya da tümden oturumu kapatmayı tercih ediyor. Her iki şekilde de etkisi aynı: Taciz, kişisel bir sansür biçimi şekilde hareket ediyor. Ancak teknoloji sektöründe en büyük isimlerden bazıları şu anda bu çevrimiçi sorunla mücadelede makine öğrenme algoritmalarından ve yapay zekadan yararlanmak konusunda çalışıyor. Peki neden olmasın? League of Legends oyununda kesinlikle işe yaradı. LoL geliştiricisi RiotGames oyunculara maçların belirli noktalarında pislik yapmamalarını hatırlatan otomatik bir bildirim sistemi kurduktan sonra, popüler oyundaki kirli ifadeler ve diğer oyuncuları taciz örnekleri sırasıyla yüzde 11 ve yüzde 6,2 azaldı. 


Bir diğer örnek olan Intel'in Hack Harassment girişimi, Intel Hİ'ye göre "çevrimiçi taciz hakimiyetini ve şiddetini azaltma misyonuyla yola çıkan kooperatif bir çaba". Intel, Vox Media ve Born This Way Foundation ile birlikte, nihayetinde açık bir API oluşturma ve piyasaya çıkarma amacıyla çevrimiçi tacizi aktif şekilde "algılayan ve caydıran" bir AI aracı geliştiriyor.


ReCode Kıdemli Editörü Ina Fried Intel'den Lori Smith-DeYoung ile geçen yıl Kasım'da San Francisco'da düzenlenen 2016 Intel AI Day'deki programda konuştu: "Çevrimiçi taciz teknolojinin yarattığı bir sorun bu yüzden sektör olarak bunu çözmeye yardımcı olmamız gerçekten önemli". ReCode''un rolü "sorun hakkında gerçekten konuşmak, geniş kitlelere duyurmak ve sorunu gösteren hususları dile getirmek." Grup hali hazırda tweet'lere bakan ve taciz teşkil eden içeriği tanımlayan bir demo uygulama üretti. Bu uygulama kullanıcıları gönderme tuşuna basmadan önce eylemleri hakkında uyarabilir ya da sistem, teoride, "çevrimiçi topluluklara dahil edilerek [taciz] eylemlerini takip edebilir ve bazılarının görülmesini ya da en azından yaygın olarak görülmesini önleyebilir."


Google, yakın zamanda devraldığı Jigsaw ile benzer bir çabaya girişmiş. Ekibin Konuşan AI sistemi Hack Harassment ile aynı temeller üzerinde çalışıyor. Taciz içerikli söylemi otonom bir şekilde belirlemek için makine öğreniminden yararlanıyor. Jigsaw başkanı Jared Cohen, Wired'a verdiği demeçte "saldırgan seslerin aşırı yüksek çıkmasına olanak tanıyan trolleme ve diğer çirkin taktiklerle mücadele etmek ve herkese eşit fırsat vermek adına yapabildiğimiz her şeyi yapmak için elimizdeki en iyi teknolojiyi kullanmak istiyorum" dedi.


Bu sistemler için büyük engellerden biri alaycılık, zira insanlar emoji gibi ek bağlamsal ipuçlarının yardımı olmaksızın çevrimiçi yazışmada bunları ayırt etmekte sorun yaşıyor. Profesör Keats Citron Engadget'e "Birçok serbest konuşmada bağlam, örneğin sözü edilen tehdidin gerçek olup olmadığı ya da kişinin bir halk figürü olup olmadığı, çok önemli." dedi ve ekledi:  "Yine de genelde bir tehdidin tam bağlamı ya da bir kişinin halk figürü olma durumu, yalnızca Twitter ya da Facebook'ta olan bitenleri değil etkileşimin tüm resmini kapsayan geniş bir koşullar zincirine bağlı."


Konuşan AI örneğinde, Jigsaw mühendisleri makine öğrenimi sistemini, New York Times web sitesinden alınan kabaca 17 milyon işaretlenmiş yorum ile doldurarak eğitmiş. Sistem ayrıca Wikipedia tartışmalarından 130.000 bitlik metine maruz bırakılmış. Ayrıca tüm Wiki parçaları, her birinin bir "kişisel saldırı" ya da taciz olup olmadığını bağımsız olarak belirleyen kitle kaynaklı 10 kişilik bir panel tarafından gözden geçirilmiş.


Tüm bu örnekler sisteme verildikten sonra, Konuşan AI tacizi yüzde 92'lik bir oranda tanımlayabiliyor ve yalnızca 10 üyelik insan paneli ile karşılaştırıldığında yalnızca yüzde 10'luk bir yalnış pozitif oranı veriyor. Sonuçlar son derece etkileyici, öyle ki NYT artık sistemi, insan moderatörler önlemeden önce taciz içerikli yorumları otomatik olarak engellemek için kullanıyor. Ekip, belirli bir hesabın belirli bir zaman aralığında gönderdiği ileti sayısı gibi uzun vadeli trendlere bakma gibi kapsam genişletmeleriyle sistemin doğruluğunu daha da artırmayı umuyor.


Bu programların her ikisi de özgün bir hedefi takip ediyor, ancak biri tehlikeli bir örnek oluşturabilir. Fried'ın AI Day panelindeki görüşmesinde söylediği üzere "Popüler olmayan bir fikir mutlaka taciz içerikli olmak zorunda değildir." Ancak bu karar genellikle gücü elinde tutanlara bırakılıyor. Ve otoriter rejimler altında, bu gücün insanların yararına kullanılmayacağından emin olabilirsiniz.


Öncü AI araştırmacılarından ve TU Berlin'de hali hazırda konuk profesör olan Dr. Toby Walsh Engadget'e verdiği demeçte "Bu post-Snowden olgu hakkında daha fazla tartışma yapılmamış olması beni gerçekten şaşırtıyor" dedi ve ekledi: "İnsanların e-postaların okunmasına şaşırmalarına şaşırıyorum. E-posta, zaten makine tarafından okunabilir bir metin olduğundan, okunması en kolay şey. Okunmakta olan herhangi bir e-postanın gizli olmadığını varsaymak zorundasınız."


Profesör Keats Citron da benzer bir noktaya değiniyor. "Özel aktörler gibi Facebook, Twitter ve Google gibi aracılar da hangi içeriğin çevrimiçi olacağına karar verme özgürlüğüne sahip" diyor ve ekliyor: "Hükümet saldırgan, nefret içerikli, sinir bozucu ya da rahatsız edici ifadeleri sansürleyemezken, aracılar bunu istedikleri gibi yapabilir. Bu nedenle platformları, sitelerinde hangi konuşmaların yasaklanacağına ilişkin net kurallar ve konuşma yapıldığında veya hesaplar ToS ihlaline dayanarak askıya alındığında uygulanacak yasal süreci belirlemeleri konusunda uyardım."


Bunlar küçük ve önemsiz sorunlar değil, özellikle de yaklaşan yeni başkanlık yönetiminin otoriter ses tonu göz önünde bulundurulursa. 


Bununla birlikte sektörün kendisi AI sistemlerinin yanlış kullanılmasına bağlı tehlikelere uyanmaya başlıyor. "AI topluluğunda, gerek kasıtlı gerekse kasıtsız risklere karlı artan bir farkındalık söz konusu, bu yüzden bu etik noktaların bazıları hakkında düşünme konusunda en iyi uygulamaları teşvik etmek için bir dizi girişim var" diyen Profesör Walsh ekliyor: "AI sistemleri üreten insanlar için etik yönergeleri belirlemek amacıyla Internet'teki en büyük profesyonel kuruluş olan IEEE'nin girişimlerine katıldım."


Hükümetin Facebook'un geliştirdiğine yakın bir otomatik sansür sistemi uygulaması halinde, Jigsaw'un Konuşan AI'sinin yeteneklerinin yalnızca bir kısmına sahip olsa bile, sivil özgürlükler ve Birinci Anayasa Değişikliği'ne yönelik tehditler bir anda ve ezici bir şekilde ortaya çıkabilir.


"Bence Snowden sürmekte olan telefon dinlemelerinin kapsamını ve bunun yalnızca dışarıyı değil ABD vatandaşlarını da kapsadığı gerçeğini açıklayarak Amerika'ya ve bütün dünyaya bir hizmette bulundu" şeklinde bir sonuç çıkaran Profesör Walsh ekledi: "Bence [Snowden'ın ön ayak olmaya çalıştığı tartışmayı] yeterince görmedik, insanlar istihbarat servislerinin ne derece okuma yaptığının ve uygulamaya dahil ettikleri teknolojilerin tam olarak farkında değil."


Yazının orijinali için tıklayınız.