IBM Yüz Tanıma işinden çekiliyor mu? Yazılım şirketlerinin başında gelen IBM, bazı ürünlerini teknoloji pazarlarından çektiğini açıkladı. IBM Kısa süre önce yaptığı açıklamada; ABD emniyet teşkilatlarına “Ulusal Diyalog” çağrısı yineledi.
George Floyd’un ölümünden sonra ırkçılık ve polis vahşetine karşı protestoların üçüncü haftasına doğru ilerlerken, IBM’in yüz tanıma sistemine olan yaklaşımında ağır bir değişiklik beklenmiyor.
İngiltere’de Ada Lovelace Enstitüsü’nden bir veri etiği uzmanı olan Alison Powell, “Yüz tanıma sistemlerinin iç önyargıları olduğunu söyledi” Çünkü önce beyaz ten rengine sahip bireylerin taranması konusunda sistem geliştiriliyor.” diyor.
Çözüm, sistemi daha çeşitli veri seti üzerinde eğitmek değil, diyor Alison Powell. “Siyah ve kahverengi insanların gözetimini artırmak.”
IBM Yüz Tanıma Pazarını Bırakıyor
IBM’in CEO’su olan Arvind Krishna’dan ABD Kongresi üyelerine yazdığı mektupta verilen karar, bazı satış noktaları tarafından bütün yüz tanıma sistemlerinin kaldırıldığını açıkladı. Fakat IBM kararının alternatif şirketlere de fırsat sunduğu kesin.
AI İsrail Allen Enstitüsü’nden Yoav Goldberg, mektupta IBM’in artık genel amacı yüzleri analiz etmek için bir yazılım sunmadığını ve potansiyel olarak daha özel sistemler satmak için boşluk bıraktığını söylüyor. IBM, Krishna’nın mektubunun düşünceleri olduğunu söyleyerek bu konu hakkında açıklama yapmayacağını bildirdi. Konu hakkında yorum yapmayı reddetti.
Mozilla Vakfı’nda bir teknoloji politikası
Mozilla Vakfı’nda bir teknoloji politikası üyesi olan Frederike Kaltheuner, yüksek profilli duyurunun yüz tanıma üzerinde daha etkili ve geniş bir etkisi olabileceğini bildirdi.
2020 yılının başlarında, Avrupa Birliği’ne bir politika taslağı belgesi gönderildi. Sunulan taslakta teknolojiye beş yıllık bir yasak koymayı düşündüğü öne sürüldü, lakin son yayınlanan sürüm bu teklifi kaldırdı. Kaltheuner, “IBM gibi bir şirket yüz tanımanın onlar için fazla zor ve sorunlu olduğunu düşünüyorsa, bu moratoryum fikrini Avrupa’nın siyasi gündemine geri koymalıdır” diyor.
San Francisco, Oakland ve Seattle dahil olmak üzere, bazı ABD şehirleri polis tarafından yüz tanıma kullanımı zaten yasaklanmış durumda. Geçtiğimiz hafta ABD Demokratları tarafından sunulan bir polis reformu tasarısı, vücuda takılan kameraların çektiği görüntülerde yüksek çözünürlüklü görüntüleme teknolojisinin kullanımını yasaklamayı amaçlıyordu.
IBM’in bu tepkisi, ABD’deki polis güçlerine yüz tanıma hizmetlerini sağlayan Amazon gibi şirketlere yaklaşımlarını tekrar düşünmeleri için bir baskı oluşturacak. 2018 yılında Amerikan Sivil Özgürlükler Birliği, Amazon yazılımının polis kuponlarındaki 28 adet yüzü yanlış bir şekilde Kongre üyesi olarak tanımladığını, yanlış eşleşmelerin orantısız renkteki insanlar olduğunu gösterdi.
İngiltere’de bulunan Oxford Internet Enstitüsü’nden Nikita Aggarwal, “Yüz tanıma, geçtiğimiz sene sivil özgürlükler perspektifinden, gizliliğin ihlali ve ırksal ve cinsiyete dayalı ayrımcılık riskinin yüksek olmasından etkilendi” diyor. Böylelikle sistemlerin artık ticari olarak geçerli olmadığı anlamına gelebilir.