Duyurular

Avrupa Veri Koruma Denetçisi Yapay Zekâ Sistemlerinin Risk Yönetimine Dair Rehber Yayınlamıştır

Avrupa Veri Koruma Denetçisi (“EDPS”) tarafından hazırlanan Yapay Zekâ Sistemlerinin Risk Yönetimine Dair Rehber (“Rehber”) 11.11.2025 tarihinde EDPS'nin resmi internet sitesinde yayınlanmıştır.

Rehber ile Avrupa Birliği Kurumları, Organları, Ofisleri ve Ajansları’nın (“ABK’lar”) 2018/1725 sayılı Tüzük (“EUDPR”) kapsamında veri sorumlusu sıfatıyla hareket ederken yapay zekâ (“YZ”) sistemlerinin kullanımından kaynaklanan veri koruma risklerinin tespit edilmesi ve hafifletilmesine yönelik teknik tavsiyelerin sunulması amaçlanmıştır.

Rehber’de özetle aşağıdaki hususlara değinilmiştir:

  • YZ sistemlerinin tedariki, geliştirilmesi ve konuşlandırılması süreçlerinde yorumlanabilirlik (interpretability) ve açıklanabilirlik (explainability) kavramlarının tüm uyum gerekliliklerini koşullandıran ön şartlar olarak ele alındığı, YZ sistemlerinden kaynaklanan başlıca risklerin bu ilkeler ışığında tanımlandığı ifade edilmiştir.
  • Yorumlanamayan veya açıklanamayan YZ modellerinin şeffaflık eksikliği nedeniyle yüksek risk oluşturduğu, buna karşılık dokümantasyon, açıklanabilirlik teknikleri (LIME, SHAP) ve istatistiksel analiz gibi önlemlerin uygulanmasının uygun olduğu belirtilmiştir.
  • Rehber’de temel veri koruma ilkeleriyle ilişkilendirilen teknik riskler ve bunlara yönelik önlemler sıralanmıştır.

Adil Olma İlkesi

  • Eğitim verilerinde kalite eksikliğinden kaynaklanan önyargı riskinin, kalite güvence politikaları ve düzenli veri kalitesi denetimleri ile hafifletilebileceği belirtilmiştir.
  • Eğitim verilerindeki örnekleme hataları ve tarihsel önyargıların, model çıktılarında adaletsiz sonuçlara yol açabileceği; bu durumun farklı popülasyonlarda genelleme yeteneğini azaltabileceği ifade edilmiştir.
  • Algoritmik önyargı ve yorumlama önyargısının, model tasarımından veya analist yorumundan kaynaklanabileceği; bu durumun açıklanabilirlik teknikleri ve dokümantasyon ile hafifletilebileceği ifade edilmiştir.

Doğruluk İlkesi

  • YZ sistemlerinin yanlış kişisel veri çıktısı üretmesi riskine dikkat çekilmiş; istatistiksel doğruluk değerlendirmesi, dengeli veri setleri, uç durum testleri ve insan gözetimi gibi yöntemlerin önem taşıdığı ifade edilmiştir.
  • YZ sistemi sağlayıcısından yeterli bilgi alınamaması riskine karşı teknik şartnameler, şeffaflık belgeleri ve güvenlik tedbirlerine ilişkin detaylı bilgi talep edilmesi gerektiği ifade edilmiştir.

Veri Minimizasyonu İlkesi

  • YZ sistemlerinin geniş veri setlerine bağımlılığı nedeniyle gereğinden fazla veri toplanması riskine dikkat çekilmiş; veri örneklemesi, anonimleştirme ve takma adla işleme (pseudonymisation) gibi tekniklerin kullanılmasının uygun olduğu belirtilmiştir.

Güvenlik İlkesi

  • YZ modeli çıktılarının eğitim verilerini ifşa etme riski karşısında veri minimizasyonu, veri bozma (perturbation), diferansiyel gizlilik ve sentetik veri yöntemlerinin uygulanması gerektiği belirtilmiştir.
  • YZ sistemlerinde büyük miktarda kişisel veri depolanması nedeniyle veri ihlali risklerinin ortaya çıkabileceği; şifreleme, anonimleştirme ve güvenli geliştirme metodolojilerinin önem taşıdığı vurgulanmıştır.

Veri Sahibinin Hakları

  • Kişisel verilerin YZ modellerinde karmaşık biçimde temsil edilmesi nedeniyle erişim taleplerinin yerine getirilmesinin zorlaşabileceği; meta veri tutulması ve veri erişim araçlarının geliştirilmesinin zorunlu olduğu belirtilmiştir.
  • Eğitim veri setlerinde yanlış verilerin bulunması veya silme talepleri karşısında makine unutma (machine unlearning) süreçlerinin ve çıktı filtreleme yöntemlerinin uygulanmasının gerekli olabileceği ifade edilmiştir.
  • Rehber’de, kişisel verileri işleyen YZ sistemlerinin devreye alınmasının veri sahipleri açısından önemli riskler içerdiği, bu nedenle ABK’lar tarafından sistematik, hesap verebilir ve sürekli izlemeye dayalı bir risk azaltma çerçevesi oluşturulması gerektiği vurgulanmıştır.

Rehber’in tam metnine (İngilizce) buradan ulaşabilirsiniz.

 

Saygılarımızla,

Zümbül Hukuk ve Danışmanlık

info@zumbul.av.tr

 

İnternet sitemizde bulunan her türlü bilgi ve belge Avukatlık Kanunu ve ilgili diğer mevzuat ile Türkiye Barolar Birliği’nin Avukatlık Meslek Kuralları dikkate alınarak Zümbül Hukuk ve Danışmanlık tarafından yalnızca genel bilgilendirme amacıyla hazırlanmış olup, bu yayınlarda kesinlikle reklam ve/veya ticari amaç güdülmemiştir. İnternet sitemizdeki her türlü bilgi ve belge genel geçer nitelikte olup hiçbir suretle bu yayınların eksiksiz, doğru, güncel ve güvenilir olduğu garanti ve taahhüt edilmemektedir. İnternet sitemizde yer verilen yayınlardaki bilgilerle ilgili olarak bir avukata/uzmana danışmadan söz konusu bilgi ve belgelere dayanılarak hareket edilmemelidir. İnternet sitemizdeki yayınlarda yer verilen linkler kamuya açık kaynaklardan elde edilerek yalnızca ziyaretçilerin diğer bilgi ve belgelere ulaşmasını kolaylaştırmak amacıyla bulunmaktadır. Bu linkler hiçbir şekilde link verilen kişi, kurum ve kuruluşları tavsiye ve/veya onay anlamına gelmemektedir. İnternet sitemizdeki yayınlar hiçbir şekilde hukuki danışmanlık sunulması veya internet sitemize herhangi bir suretle ulaşan ziyaretçiler ile avukat-müvekkil ilişkisi oluşturulduğu anlamına gelmemektedir. İnternet sitemizdeki tüm içerikler Zümbül Hukuk ve Danışmanlık mülkiyetindedir ve hiçbir içerik yazılı izin alınmaksızın kopyalanamaz, çoğaltılamaz ve atıf yapılmadan kullanılamaz.