ABD merkezli tartışmalı bir yapay zeka yüz tanıma şirketi olan Clearview AI, geçen ay bir açıklama yaptı ve yapay zeka teknolojisini Ukrayna hükümetine verdiğini duyurdu.
Bu teknolojinin hem canlı hem de ölülerden oluşan binden fazla vakada kişilerin tanınmasında nasıl kullanıldığına dair kanıtlar BBC'ye sunuldu.
Bu haberdeki bazı ifadeler, bazı okurlar tarafından üzüntü verici bulunabilir.
Bir adam, başı aşağı eğik halde yerde hareketsiz yatıyor. Calvin Klein marka şortu dışında vücudu çıplak. Gözlerinin etrafı morarmış görünüyor.
Ceset, Ukrayna'nın doğusundaki Harkov'da, savaşın yıkıntıları arasında bulundu. BBC olay yerinde çekilmiş fotoğrafları gördü, ancak ölümün hangi koşullarda gerçekleştiğine dair bilgi sahibi değil. Fotoğrafta kafadaki darbe net görülüyor. Sol omuzda da bir dövme var.
Ukraynalı yetkililer adamın kim olduğunu bilmediği için son teknoloji bir yönteme başvurmaya karar veriyor: Yapay zeka yoluyla yüz tanıma yöntemi.
Clearview belki de dünyadaki en ünlü ve tartışmalı yüz tanıma sistemi.
Şirket, CEO'su ve kurucusu Hoan Ton-That'ın "yüzler için arama motoru" dediği sistemin veri tabanını oluşturmak için Facebook ve Twitter gibi sosyal medya şirketlerinden milyarlarca fotoğrafı kullanıyor.
Ton-That, "Bir bakıma Google gibi çalışıyor. Burada kullanıcı, kelimeler yerine bir profil fotoğrafı koyuyor" diye açıklıyor.
Para cezası aldı
Şirket bugüne kadar bir dizi yasal sorunla karşılaştı. Facebook, YouTube, Google ve Twitter, kendi platformlarındaki fotoğrafları kullanmaya son vermesi talebiyle Clearview'a ihtar mektupları gönderdi.
İngiltere'nin düzenleyici kuruluşu Enformasyon Ofisi, insanlara fotoğraflarını topladığına dair bildirim yapmadığı için şirkete para cezası bile verdi.
Bugün Ukrayna hükümeti tarafından kullanılması ise bu teknolojinin aktif bir savaşa dahil edilmesinin etkileri konusunda soruları gündeme getirdi.
Clearview, tartışmalı da olsa ABD'deki kolluk kuvvetleri tarafından yaygın olarak kullanılıyor.
Ton-That, 3.200 devlet kurumunun teknolojiyi satın aldığını veya denediğini söylüyor.
Rusya'nın Ukrayna'yı işgalinden sonra, Clearview kendi teknolojisi için başka bir potansiyel uygulama alanı gördü.
Şirketin kurucusu Ton-That, "Savaş esiri olan veya kaçan insanların görüntülerini gördük ve bu bize potansiyel olarak kimlik tespiti ve doğrulama için yararlı olabilecek bir teknoloji olabileceğimizi düşündürdü" diyor
Şirket hemen Ukrayna hükümetine bu teknolojiyi teklif etti ve teklif kabul edildi.
Harkov'daki olay gerine geri dönersek, yetkililer ölü adamın yüzünün fotoğrafını çekti - başı yukarıda, çökük gözleri kameraya çevrildi.
Çekilen fotoğraf Clearview veri tabanında taranınca, ölü adama çok benzeyen birinin birkaç fotoğrafı bulundu.
Sıcak bir günde çekildiği anlaşılan bir fotoğrafta adam gömleksizdi ve sol omzunda bir dövme görülüyordu.
Fotoğraflar eşleştirildi ve isim tespiti yapıldı.
Ölülerin kimlik tespitinde yüz tanıma yöntemi yeni olmadığı gibi Clearview Ukrayna'da kullanılan tek platform değil.
Araştırmacı gazetecilik konusunda uzmanlaşmış bir kuruluş olan Bellingcat'in araştırma direktörü Aric Toler, "Bunu yıllardır kullanıyoruz" diyor.
Ukrayna'da kullanımı daha geniş kapsamlı
2019'da Bellingcat, Suriye'de bir mahkuma işkence edilmesini ve öldürülmesini filme alan Rus bir adamın kimliğini tespit etmek için yüz tanıma teknolojisini kullandı.
Bu yüz tanımanın kullanıldığı ilk savaş değil. Ancak Ukrayna'da kullanımı, öncekilerden daha geniş kapsamlı. Toler, Rusya'da yüz tanıma platformu FindClone'u kullandığını ve bunun özellikle ölü Rus askerlerinin kimliğini belirlemede yardımcı olduğunu söylüyor.
Clearview gibi FindClone da Rus sosyal medya sayfaları dahil olmak üzere herkese açık internet görüntülerinde arama yapıyor.
Bu arama sonucunda sosyal medya hesapları olmayan kişiler bile yakınlarının paylaşımlarından bulunabiliyor.
Bu nokta, yüz tanıma teknolojisinin gücünü bakımından önemli.
Bu bir kişinin, daha önce hiç sosyal medya profili olmasa da, tüm görüntülerini internetten silse de, yine de bulunabileceği anlamına geliyor. Bir arkadaşı tarafından yüklenen bir fotoğrafta görünerek veya internette rastgele bir fotoğrafın arka planında yer alarak veri tabanında belirebilir.
Bu, internette neredeyse hiç varlık göstermeyen askeri veya güvenlik personelinin bile izlenebileceği anlamına geliyor.
Şüphelilerin kimlilk tespitinde de kullanılıyor
Ancak bu teknolojiyi eleştirenler, yüz tanıma teknolojisinin her zaman doğru çıkmasının mümkün olmadığına ve savaş döneminde hataların potansiyel olarak feci sonuçlara yol açabileceğine dikkat çekiyor.
Clearview sadece Ukrayna'daki cesetleri teşhis etmek için kullanılmıyor. Şirket ayrıca Ukrayna hükümeti tarafından kontrol noktalarında düşman şüphelilerinin belirlenmesine yardımcı olmak için kullanılıyor.
Clearview, Ukraynalı bir ajanstan gelen ve canlı kişilerin kimlik tespitinde de sistemin kullanıldığını doğrulayan bir e-postayı BBC ile paylaştı.
İsmini vermek istemeyen Ukraynalı bir yetkiliden gelen e-postada, "Sistem, gözaltına alınan şüphelilerin verilerinin doğruluğunu hızlı bir şekilde teyit etme fırsatı verdi" yazıyor.
E-postada, "Clearview yapay zeka kullanımı sırasında, uygun doğrulama ve tanımlamayı gerçekleştirmek için binden fazla arama sorgusu gerçekleştirildi" deniyor.
Bu, bazı uzmanları endişelendiriyor.
"Bir insan hakları felaketi"
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM'de yüz tanıma uzmanı olan Conor Healy, "Ukrayna kuvvetlerinin, birinin dost mu düşman mı olduğunu belirlemenin %100 doğru bir yolu olmadığını anlaması önemli" diyor.
Healy, bunun bir insanın kaderini belirleyecek bir "ölüm kalım teknolojisi" olmaması gerektiğini belirtiyor ve "Kesinlikle böyle kullanılmamalı" diyor.
Daha ciddi uyarılarda bulunanlar da var. Gözetim Teknolojisi İzleme Projesi'nden Albert Fox Cahn, bunu "gerçekleşmekte olan bir insan hakları felaketi" olarak nitelendiriyor.
Cahn, Forbes'a verdiği demeçte, "Barış zamanında yüz tanıma teknolojindeki bir hata nedeniyle insanlar yanlışlıkla tutuklanıyor. Bir savaş bölgesinde yüz tanıma hatasında masum insanlar vuruluyor" diyor.
BBC, Clearview'in kullanımı hakkında görüş almak için Ukrayna hükümetiyle temasa geçti, ancak yanıt alamadı.
Clearview'un kurucusu Ton-That, testlerde bu teknolojinin %99'dan fazla doğru sonuç verdiğini savunuyor.
Ancak sonuçlar, görüntünün kalitesine, başın konumuna veya yüzün ne kadarının net göründüğüne bağlı olarak değişebiliyor.
Ayrıca ABD ve Avrupa'da Clearview için sorunlu olan kişisel mahremiyet sorunu da söz konusu.
Şirket, veri tabanını oluşturmak için Facebook ve Instagram gibi platformlardan herkese açık olan fotoğrafları veri tabanına alıyor.
Ancak bunu yapmak için ne sosyal medya şirketlerinden ne de bireylerden bu resimlerin kullanımı için izin almış değil.
Pentagon ile sözleşme
Geçen yıl Clearview, İngiltere'nin Enformasyon Ofisi tarafından, sosyal medya platformlarından fotoğraflarını topladığını insanlara bildirmediği için para cezasına çarptırıldı.
Şirketin kurucusu Ton-That, yüz tanıma teknolojisinin yasallığı konusunda hala tartışma olduğunu kabul ediyor, ancak Clearview'in yasalar dahilinde çalıştığına inanıyor ve teknolojinin "yanlış anlaşıldığını" söylüyor.
Yüz tanıma teknolojisi, açıkça distopik uygulamalara sahip. Geçen yıl BBC, Çin'de gazetecileri hedef almak için yüz tanıma teknolojisini kullanma planları yapıldığını bildirmişti.
Ton-That, Clearview'in bu şekilde kullanılabilse bile bu tür aramalara izin vermeyeceğini söylüyor. Clearview'in otoriter hükümetlerle çalışmadığını ve şirketin Rusya ile çalışmayacağını iddia ediyor.
Bununla birlikte Clearview teknolojisinin askeri amaçlı kullanımı için yapılan başvurular var.
Şirket geçen yıl, teknolojisinin artırılmış gerçeklik gözlüklerine yerleştirilmesi denemeleri için Pentagon ile sözleşme imzaladı. Clearview, askeri sözleşmelerle yüz tanıma yapay zekası geliştiren birkaç şirket arasında yer alıyor.
Mahremiyet savunucularının başka bir endişesi daha var.
Yüz tanıma teknolojisi, savaş zamanında Ukraynalı yetkililer için faydalı olabilir. Ancak barış zamanında teknolojiyi Clearview'a geri mi verecekler?
Güvenlik teknolojilerini denetleyen bir kuruluş olan IPVM'de yüz tanıma uzmanı Healy, "Savaş zamanında kullanılan ve barış döneminde de devam eden çok sayıda teknoloji örneği var" diyor:
"Umarım benimsedikleri yaklaşım bu değildir."
