Görünmeyen Önyargı: Yapay Zeka Kime Hizmet Ediyor? | Dr. Nour Naim | TEDxAnkara Atatürk Lisesi

Yapay Zeka Etiği ve Önyargılar

Key Concepts:

• Yapay Zeka Etiği (AI Ethics)
• Önyargı (Bias) / Ayrımcılık (Discrimination)
• Veri Çeşitliliği (Data Diversity)
• Etik Kurallar ve İşbirliği (Ethical Rules and Collaboration)
• Cinsiyet Eşitliği (Gender Equality)
• Sorumlu Yapay Zeka (Responsible AI)
• Adil Yapay Zeka (Fair AI)
• Üretken Modeller (Generative Models)
• Yüz Tanıma (Facial Recognition)

1. Yapay Zeka'da Önyargıların Kaynakları ve Etkileri:

• Tanım: Yapay zeka sistemlerinde görünen, genellikle veri toplama, model tasarımı ve algoritma seçimindeki hatalardan kaynaklanan ayrımcılık veya yanlılık.
• Kaynaklar:
  • Veri Toplama: Veri setlerinin yetersiz çeşitliliği veya belirli grupları temsil etmemesi. Örneğin, yüz tanıma sistemlerinin çoğunlukla beyaz tenli erkekler üzerinde eğitilmesi.
  • Model Tasarımı: Algoritmaların belirli gruplara karşı ayrımcı sonuçlar üretmesine neden olan tasarım hataları.
  • Özellik Seçimi: Modelin karar verme sürecinde kullanılan özelliklerin (örneğin, cinsiyet, ırk) ayrımcı sonuçlara yol açması.
• Örnekler:
  • Yüz Tanıma: MIT araştırmasına göre, esmer tenli kadınları tanımada %30'dan fazla hata oranı. Beyaz tenli erkeklerde bu oran çok daha düşük.
  • İş Başvuruları: Amazon'un 2018'de kullandığı yapay zeka işe alım aracının, CV'lerde "kadın" kelimesi geçtiğinde adaylara daha düşük puan vermesi.
  • Sağlık: Kalp krizi teşhisinde, esmer tenli erkeklerde yanlış teşhis oranının daha yüksek olması.
  • Görsel Üretim: "Fast food çalışanı" araması yapıldığında, üretken modellerin genellikle esmer tenli kişilerin fotoğraflarını göstermesi. "Hakim" araması yapıldığında ise kadın hakim fotoğraflarının azınlıkta olması.
  • Anemi Uygulaması: Esmer tenli bir kız çocuğunun fotoğrafını animeye çevirirken ırkçı bir sonuç vermesi.
• Sonuçlar:
  • Dezavantajlı grupların ayrımcılığa maruz kalması.
  • Hizmetlere erişimde eşitsizlik.
  • Yanlış teşhisler ve hatalı kararlar.
  • Toplumsal önyargıların pekiştirilmesi.

2. İsrail'in Gazze'de Yapay Zeka Kullanımı:

• Sistemler: İsrail'in Gazze'de kullandığı yapay zeka sistemleri: Lavender, The Gospel, Where's Daddy, ve Senary.
• Lavender: İnsanları yaşam tarzlarına göre (giyim, hareket, sosyal medya kullanımı) 0-1 arasında sınıflandıran bir sistem. 50 ve üzeri puan alanlar doğrudan hedef alınıyor.
• The Gospel: Sosyal medyayı analiz ederek, 7 Ekim'den sonra hesaplarını kapatan kişileri riskli olarak işaretleyip hedef haline getiriyor.
• Where's Daddy: Hedeflenen kişilerin nerede öldürüleceğine karar veren bir sistem. Genellikle evde ve akşam saatlerinde yapılan saldırıları tercih ediyor.
• Etik Sorunlar:
  • Algoritma hataları nedeniyle masum sivillerin hedef alınması.
  • Veri toplama ve sınıflandırma süreçlerindeki önyargılar.
  • Orantısız güç kullanımı ve toplu cezalandırma.
• Kaynaklar: The Guardian ve New York Times gibi yayınlarda bu konuda araştırmalar bulunmaktadır.

3. Önyargıları Düzeltme Yolları:

• Veri Çeşitliliği: Farklı demografik grupları temsil eden geniş ve çeşitli veri setleri kullanmak.
• Etik Kurallar ve İşbirliği: Şirketlerin yapay zeka geliştirme süreçlerinde etik kurallar ve düzenlemeler oluşturması. Çalışanların bu kurallara uyması ve etik ihlalleri sorgulaması.
• Cinsiyet Eşitliğini Artırmak: Türkiye'de yapay zeka sektöründe cinsiyet eşitliğini teşvik etmek. Kız çocuklarını bu alana yönlendirmek ve nitelikli eğitim imkanları sunmak.
• Farkındalık Yaratmak: Yapay zeka etiği konusunda farkındalık yaratmak ve bu konuyu tartışmak.
• Önyargıları Tanımlama ve Düzenleme: Yapay zeka sistemlerindeki önyargıları tespit etmek ve düzeltmek için sürekli çaba göstermek.
• Şeffaflık ve Sorgulanabilirlik: Yapay zeka sistemlerinin nasıl çalıştığını ve hangi verileri kullandığını şeffaf bir şekilde açıklamak. Kullanıcıların bu sistemleri sorgulama ve geri bildirimde bulunma hakkını sağlamak.

4. Sorumlu ve Adil Yapay Zeka:

• Sorumlu Yapay Zeka (Responsible AI): Yapay zeka sistemlerinin etik ilkelere uygun olarak geliştirilmesi ve kullanılması.
• Adil Yapay Zeka (Fair AI): Yapay zeka sistemlerinin tüm gruplara eşit ve adil davranması.
• Talep Etmek: Kullanıcıların yapay zeka sistemlerinin veri kaynaklarını, algoritmalarını ve sonuçlarını sorgulama hakkı vardır.
• Veri Gizliliği: Kullanıcıların verilerinin nasıl toplandığını, kullanıldığını ve paylaşıldığını anlamaları ve kontrol etmeleri önemlidir.

5. Üretken Modellerde (Generative Models) Önyargıların Artması:

• Üretken modeller, mevcut verilerden öğrenerek yeni içerikler üretir. Eğer bu verilerde önyargılar varsa, üretilen içeriklerde de aynı önyargılar görülebilir.
• Özellikle, üretken modellerin çıktıları tekrar girdi olarak kullanıldığında, önyargılar daha da güçlenebilir ve karmaşık hale gelebilir.

Sonuç:

Yapay zeka, hayatımızı kolaylaştıran ve birçok alanda fayda sağlayan güçlü bir araçtır. Ancak, yapay zeka sistemlerinde görülen önyargılar ciddi sorunlara yol açabilir. Bu nedenle, yapay zeka geliştirme süreçlerinde etik ilkelere uymak, veri çeşitliliğini sağlamak, cinsiyet eşitliğini teşvik etmek ve farkındalık yaratmak önemlidir. Sorumlu ve adil yapay zeka, tüm toplumun faydasına olacak şekilde geliştirilmelidir.