Geçtiğimiz aylarda Google otomatik asistanının yeni yetkinliklerini  açıkladı. Bu yetkinlikler Google’ın yapay zeka (AI) konusunda gittikçe artan uzmanlığına dayanıyor.

Bu yetkinliklerden belki de en çarpıcı, hatta çok sayıda yoruma baktığımızda en tedirgin edici olan gösteri ise Google AI’ın bir insanı taklit ederek telefon görüşmesi yapma kabiliyetiydi. Demoyu henüz görmediyseniz linke tıklayın. Henüz o aşamaya gelmemiş olsak da kısa zaman içinde bir AI’nin eski bir teknolojiyi (sesli arama) kullanarak sizin yerinize randevu alması ya da başka etkileşimlerde bulunması için talimatlar verebileceksiniz. AI diğer insanlarla ya da şayet karşı taraf da isterse diğer AI’larla etkileşime geçebilecek. Şu kadarını söylemek gerekir ki bu oldukça önemli ve değerli bir gelişme.

Peki neden endişe ediyoruz? İnsan gibi konuşan bir AI hem gizliliği hem güvenliği tehlikeye atıyor. Bu iki kavram genellikle bir arada kullanılsa da aslında birbirinden farklı.

Gizlilik yalnız bırakılma hakkı ile ilgilidir. Telefon eden AI’lar izinsiz aramalar yapma potansiyeli yüzünden bu hakkı ihlal eder. Gizlilik endişeleri aynı zamanda bilgi, bağlamdan alakasız bir şekilde (örneğin dedikodu, fiyat farkı uygulaması veya hedeflenmiş reklamcılık için) kullanıldığında doğar. İnsan gibi konuşan AI’lar, insanları, aslında robot ve insan arasında yapılan bir görüşmenin iki insan arasında olduğuna inandırarak gizliliği ihlal edebilir. Sizden bilgi edinip daha sonra bunu öngörmediğiniz şekillerde kullanabilir. Bu, AI ile siz konuştuğunuzda ya da gelecekte sizin AI’ınız sizin adınıza konuştuğunda meydana gelebilir.

Fakat insanlar gizlilik endişeleri hakkında konuşurken, aslında endişe duydukları şey genellikle güvenlik oluyor. Burada olay hedefli reklamcılık ya da dedikodu değil; hırsızlık ve emniyet. Güvenlik endişeleri bir bilgi alındığında ve daha sonra yasal olmayan bir şekilde kullanıldığında ortaya çıkar. Bunun en belirgin şekli kimlik hırsızlığıdır. Telefon görüşmesi yapan bir AI’ın sesinizi taklit edebildiğini düşünün. Bunu sizin kontrolünüzde olan bir hizmetin bir parçası olarak isteyebilirsiniz, fakat birileri bunu kullanarak insanların sizinle konuştuklarına inanmasını sağlayabilir ve onları kandırabilir.

Sorun şu ki, güvenliği artırmanın gizliliğe bir faydası olmayabilir. Örneğin artan gözetim, güvenliği artırıp kötü niyetli kişileri dışarıda bırakabilir, fakat bu gizlilik pahasına olur.

Öte yandan, gizlilik sorununu çözmek güvenlik için bir şey sağlamayabilir. Bilgi akışını kısıtlayan gizlilik kuralları, polislerin kötü niyetli kişilerin ne yaptığını bilmesini zorlaştırır, böylece güvenliğinizi azaltır.

AI asistanları için; insanları taklit etmeyi yasaklayıp kimlik kontrollerine yeni katmanlar ekleyebilir, böylelikle kimlik hırsızlığını daha zor hale getirebiliriz.  Bunun güvenliğe katkısı olur fakat gizliliğe bir etkisi olmaz. Hâlâ AI’lardan gelen sayısız arama ya da mesaja maruz kalabilirsiniz, ve AI’ye verdiğiniz bilgiler hedefli reklamcılık için kullanılabilir.

Konuyla ilgili birçok yorumcu Google’ın (ve diğer platformların), bir makine arama yaptığında karşıdaki kişiye bunu bildirmesini istedi. Google bu kimlik belirlemeyi sağlayacağını söyledi. Fakat kimliğini çalmayı kafaya koymuş birisi bu kurallara uyma inceliğinde bulunmayacaktır.

Hükümet AI asistanının kendini tanıtması gerektiğini dayatsa bile bu, ancak kötü niyetli kişiler de kendilerini tanıtmak zorunda olduğu takdirde sizi koruyabilir. Sonuçta sesiniz taklit edilebiliyorsa sesli anonsunuz da taklit edilebilir. Kimlik bildirme gizliliği korur ancak güvenliğe yarar sağlamaz.

Şimdi ise hem gizliliği hem güvenliği sağlayacak, çeşitli domainlerdeki AI iletişim protokollerini düşünme zamanı. Sosyal ağların kimin kime mesaj attığını doğrulamak için kendi içsel yöntemleri mevcut. Fakat çeşitli ağlarda doğrulama yapmak için etkili yöntemlerimiz yok. Hâlâ analog bir dünyada yaşıyoruz ve klasik bir analog doğrulayıcı olan ses tanıma artık yeterli değil.