Amerika Birleşik Devletleri'nin Çin'e ait sosyal video platformu TikTok'a yönelik son düzenleyici eylemi, başka bir Çin uygulaması olan sosyal platform “Rednote ”a kitlesel göçü teşvik etti. Şimdi ise Çinli geliştirici DeepSeek'in üretken bir yapay zeka platformu popülaritesini arttırarak ABD'nin yapay zeka hakimiyetine potansiyel bir tehdit oluşturuyor ve TikTok yasağı gibi ertelemelerin Amerikalıları Çin'e ait dijital hizmetleri kullanmaktan alıkoymayacağının en son kanıtını sunuyor.
Önde gelen bir Çinli hedge fonu tarafından oluşturulan bir yapay zeka araştırma laboratuvarı olan DeepSeek, OpenAI tarafından geliştirilenler gibi en iyi ABD platformlarıyla kolayca rekabet edebilen en son açık kaynaklı üretken yapay zeka modelini yayınladıktan sonra popülerlik kazandı. Bununla birlikte, ABD'nin donanım ve yazılım üzerindeki yaptırımlarından kaçınmaya yardımcı olmak için DeepSeek, modellerini oluştururken bazı akıllıca geçici çözümler yarattı. Pazartesi günü, DeepSeek'in yaratıcıları, uygulamanın “büyük ölçekli kötü niyetli bir saldırı” ile istila edildiğini iddia ettikten sonra yeni kayıtları sınırladı.
DeepSeek, bazıları indirilebilen ve dizüstü bilgisayarınızda yerel olarak çalıştırılabilen çeşitli AI modellerine sahip olsa da, insanların çoğu hizmete muhtemelen iOS veya Android uygulamaları veya web sohbet arayüzü aracılığıyla erişecektir. Diğer üretken yapay zeka modellerinde olduğu gibi, ona sorular sorabilir ve yanıtlar alabilirsiniz; web'de arama yapabilir; veya alternatif olarak yanıtları detaylandırmak için bir muhakeme modeli olarak kullanılabilir.
Henüz bir iletişim departmanı ya da basın irtibat kişisi atamamış gibi görünen DeepSeek, WIRED'ın kullanıcı verilerini koruma ve veri gizliliği girişimlerine ne ölçüde öncelik verdiği konusundaki yorum talebine yanıt vermedi.
İnsanlar yapay zeka platformunu test etmek için can atarken, durum Çinli girişimin kullanıcı verilerini nasıl toplayıp eve gönderdiğine odaklanıyor. Kullanıcılar şimdiden DeepSeek'in Çin'i ya da politikalarını eleştiren içerikleri sansürlediğine dair çeşitli örnekler bildirdiler. Yapay zeka kurulumu, tüm sohbet mesajlarınız da dahil olmak üzere çok sayıda bilgi topluyor ve bunları Çin'e geri gönderiyor gibi görünüyor. Birçok yönden, TikTok'un son yıllarda ABD'nin güvenlik endişelerini saptırmak için ABD bulut barındırma sistemine geçmesinden bu yana Çin'e gönderdiğinden daha fazla veri göndermesi muhtemel
"Onların hizmetlerini kullandığınızda, onlar için iş yapıyorsunuz, tersi değil.”
Toronto Üniversitesi Citizen Lab'da kıdemli bir araştırmacı olan John Scott-Railton, “İnsanlara, sektördeki çoğu şirketin özel verilerinizi nasıl kullanacaklarına dair şartları belirlediğini hatırlatmak için Çin yapay zekası konusunda panik yapmaya gerek yok” diyor. “Ve onların hizmetlerini kullandığınızda, onlar için iş yapıyorsunuz, tersi değil.” diye ekliyor.
Açık olmak gerekirse, DeepSeek verilerinizi Çin'e gönderiyor. Şirketin kullanıcı verilerini nasıl işlediğini ortaya koyan İngilizce DeepSeek gizlilik politikası açık ve net: “Topladığımız bilgileri Çin Halk Cumhuriyeti'nde bulunan güvenli sunucularda saklıyoruz.”
Başka bir deyişle, DeepSeek'e gönderdiğiniz tüm konuşmalar ve sorular, DeepSeek'in ürettiği yanıtlarla birlikte Çin'e gönderiliyor ya da gönderilebilir. DeepSeek'in gizlilik politikaları aynı zamanda sizin hakkınızda topladığı bilgileri de ana hatlarıyla belirtiyor ve bu bilgiler üç kapsamlı kategoriye ayrılıyor: DeepSeek ile paylaştığınız bilgiler, otomatik olarak topladığı bilgiler ve diğer kaynaklardan elde edebileceği bilgiler.
Bu alanlardan ilki, uygulama veya web sitesi aracılığıyla DeepSeek ile yaptığınız sohbetleri kapsaması muhtemel geniş bir kategori olan “kullanıcı girdisini” içerir. Gizlilik politikasında “Model ve Hizmetlerimize sağladığınız metin veya ses girdilerini, komutları, yüklenen dosyaları, geri bildirimleri, sohbet geçmişini veya diğer içerikleri toplayabiliriz” deniyor. DeepSeek'in ayarlarında, sohbet geçmişinizi silmek mümkün. Mobil cihazlarda, sol taraftaki gezinti çubuğuna gidin, ayarları açmak için menünün altındaki hesap adınıza dokunun ve ardından “Tüm sohbetleri sil” seçeneğine tıklayın.
Bu koleksiyon, soruları yanıtlamak için kullanıcı istemlerini alan diğer üretken yapay zeka platformlarınınkine benzer. Örneğin OpenAI'nin ChatGPT'si veri toplaması nedeniyle eleştirilmiş, ancak şirket zaman içinde verilerin silinebileceği yolları artırmıştır. Bu tür korumalardan bağımsız olarak, gizlilik savunucuları, herhangi bir hassas veya kişisel bilgiyi AI sohbet botlarına ifşa etmemeniz gerektiğini vurgulamaktadır.
King's College London Yapay Zeka Enstitüsü'ne bağlı bağımsız araştırmacı ve danışman Lukasz Olejnik, “Böyle bir yapay zeka asistanına kişisel veya özel verilerimi girmezdim” diyor. Olejnik, DeepSeek'inki gibi modelleri yerel olarak kurup bilgisayarınızda çalıştırırsanız, verileriniz onları üreten şirkete gitmeden onlarla özel olarak etkileşime girebileceğinizi belirtiyor. Ayrıca, yapay zeka arama şirketi Perplexity, DeepSeek'i platformlarına eklediğini söylüyor ancak modeli ABD ve AB veri merkezlerinde barındırdığını iddia ediyor.
DeepSeek'e giden diğer kişisel bilgiler, e-posta adresiniz, telefon numaranız, doğum tarihiniz, kullanıcı adınız ve daha fazlası dahil olmak üzere hesabınızı oluşturmak için kullandığınız verileri içerir. Aynı şekilde, şirketle temasa geçtiğinizde de şirketle bilgi paylaşmış olursunuz.
"Genelde ne ile ödeme yaparız: veri, bilgi, içerik, enformasyon.”
Gartner'da uluslararası gizliliğe odaklanan analist yardımcısı Bart Willemsen, genel olarak, üretken yapay zeka modellerinin inşası ve operasyonlarının tüketiciler ve diğer gruplar için şeffaf olmadığını söylüyor. İnsanlar tam olarak nasıl çalıştıklarını ya da hangi veriler üzerine inşa edildiklerini bilmiyorlar. DeepSeek, API'larını kullanan geliştiriciler için maliyetleri olmasına rağmen, bireyler için büyük ölçüde ücretsizdir. “Peki ne ile ödeme yapıyoruz? Genelde ne ile ödeme yaparız: veri, bilgi, içerik, enformasyon” diyor Willemsen.
Web sitelerinden uygulamalara kadar tüm dijital platformlarda olduğu gibi, hizmetleri kullandığınızda otomatik olarak ve sessizce toplanan büyük miktarda veri de olabilir. DeepSeek, hangi cihazı kullandığınız, işletim sisteminiz, IP adresiniz ve çökme raporları gibi bilgiler hakkında bilgi toplayacağını söylüyor. Ayrıca, karakter tabanlı diller için oluşturulmuş yazılımlarda daha yaygın olarak toplanan bir veri türü olan “tuş vuruş kalıplarınızı veya ritimlerinizi” de kaydedebilir. Ek olarak, DeepSeek'in premium hizmetlerini satın alırsanız, platform bu bilgileri toplayacaktır. Ayrıca “hizmetlerimizi nasıl kullandığınızı ölçmek ve analiz etmek” için çerezler ve diğer izleme teknolojilerini kullanır.
DeepSeek web sitesinin temel faaliyetlerine ilişkin bir WIRED incelemesi, şirketin aynı zamanda hem Çinli teknoloji devi Baidu'ya, potansiyel olarak web analizi amacıyla, hem de Çinli bir internet altyapı firması olan Volces'e veri gönderdiğini gösteriyor.
DeepSeek'in toplama hakkını saklı tuttuğu son bilgi kategorisi ise diğer kaynaklardan gelen verilerdir. Örneğin, Google veya Apple oturum açma özelliğini kullanarak bir DeepSeek hesabı oluşturursanız, DeepSeek bu şirketlerden bazı bilgiler alacaktır. DeepSeek'in politikalarına göre reklamverenler de DeepSeek ile bilgi paylaşmaktadır ve bu bilgiler arasında “reklam için mobil tanımlayıcılar, karma e-posta adresleri ve telefon numaraları ile sizi ve hizmet dışındaki eylemlerinizi eşleştirmeye yardımcı olmak için kullandığımız çerez tanımlayıcıları” yer almaktadır.
DeepSeek'in uluslararası kullanıcı tabanından Çin'e büyük miktarda veri akışı olabilir, ancak şirket bu bilgileri nasıl kullanacağı konusunda hala söz sahibidir. DeepSeek'in gizlilik politikası, şirketin verileri, hizmetini çalışır durumda tutmak, hüküm ve koşullarını uygulamak ve iyileştirmeler yapmak da dahil olmak üzere birçok tipik şekilde kullanacağını söylüyor.
Ancak en önemlisi, şirketin gizlilik politikası, yeni modeller geliştirirken kullanıcı taleplerinden yararlanabileceğini öne sürüyor. Şirket, “cihazlarınızdaki etkileşimleri ve kullanımı izleyerek, insanların onu nasıl kullandığını analiz ederek ve teknolojimizi eğitip geliştirerek hizmeti gözden geçirecek, iyileştirecek ve geliştirecektir” diyor.
DeepSeek'in gizlilik politikası ayrıca şirketin bilgileri “yasal yükümlülüklerine uymak” için de kullanacağını söylüyor - birçok şirketin politikalarına dahil ettiği genel bir madde. DeepSeek'in gizlilik politikası, verilere “şirket grubu” tarafından erişilebileceğini ve bunu yapması gerektiğinde bilgileri kolluk kuvvetleri, kamu yetkilileri ve daha fazlasıyla paylaşacağını söylüyor.
Tüm şirketlerin yasal yükümlülükleri olsa da, Çin merkezli şirketlerin kayda değer sorumlulukları var. Geçtiğimiz on yıl içinde Çinli yetkililer, devlet yetkililerinin teknoloji şirketlerinden veri talep etmesine olanak tanımak amacıyla bir dizi siber güvenlik ve gizlilik yasası çıkardı. Örneğin 2017 tarihli bir yasa, kuruluşların ve vatandaşların “ulusal istihbarat çabalarıyla işbirliği yapmaları” gerektiğini söylüyor.
Bu yasalar, ABD ile Çin arasında artan ticari gerilimler ve diğer jeopolitik faktörlerle birlikte TikTok'a ilişkin güvenlik korkularını körükledi. TikTok'un yasaklanmasından yana olanlar, uygulamanın büyük miktarda veri toplayıp Çin'e geri gönderebileceğini ve uygulamanın Çin propagandası yapmak için de kullanılabileceğini savundu. (TikTok, ABD kullanıcı verilerini Çin hükümetine gönderdiğini reddetti.) Bu arada, birkaç DeepSeek kullanıcısı, platformun 1989 Tiananmen Meydanı katliamıyla ilgili sorulara yanıt vermediğine ve bazı soruları propaganda gibi görünen şekillerde yanıtladığına dikkat çekti.
Willemsen, TikTok gibi bir sosyal medya platformundaki kullanıcılarla karşılaştırıldığında, üretken bir yapay zeka sistemiyle mesajlaşan insanların daha aktif bir şekilde katılım gösterdiğini ve içeriğin daha kişisel hissedilebileceğini söylüyor. Kısacası, herhangi bir etki daha büyük olabilir. “Aktif katılımda bilinçaltı içerik değiştirme, konuşma yönünü yönlendirme riskleri, bu mantıkla daha az değil, daha fazla endişeye yol açmalıdır” diyor ve "Özellikle modelin iç işleyişinin yaygın olarak bilinmediği, eşiklerinin, sınırlarının, kontrollerinin, sansür kurallarının ve niyetinin/kişiliğinin büyük ölçüde incelenmeden bırakıldığı ve henüz emekleme aşamasında bu kadar popüler olduğu göz önüne alındığında.” diye ekliyor.
King's College London'dan Olejnik, TikTok yasağı özel bir durum olsa da, ABD'li yasa yapıcıların veya diğer ülkelerdeki yasa yapıcıların benzer bir öncülle tekrar harekete geçebileceğini söylüyor. Olejnik, “2025'in bir genişleme getireceğini göz ardı edemeyiz: YZ firmalarına karşı doğrudan eylem” diyor. “Elbette, veri toplama yine gerekçe olarak gösterilebilir.”
BU İÇERİK İLK OLARAK WIRED WEB SİTESİNDE YAYINLANMIŞTIR.
