Avrup Konseyi Yapay Zeka ve Veri Koruma Yönergeleri

mm
1.3k Görüntüleme
8 Dk Okuma Süresi

Yapay Zeka (YZ) tabanlı sistemler, yazılımlar ve cihazlar akıllı evler, akıllı şehirler, endüstriyel sektör, sağlık hizmetleri ve suç önleme gibi çeşitli alanlardaki ihtiyaçları karşılamak ve zorlukları ele almak için yeni ve değerli çözümler sunmaktadır. YZ uygulamaları, özellikle kanıta dayalı ve kapsayıcı politikaları desteklemek için karar alma sürecinde yararlı bir araç olabilir. Diğer teknolojik yeniliklerde olduğu gibi, bu uygulamalar bireyler ve toplum için olumsuz sonuçlara yol açabilir. Bunu önlemek için, 108 Sayılı Avrupa Konseyi Sözleşmesinin (Kişisel Verilerin Otomatik İşleme Tabi Tutulması Karşısında Bireylerin Korunması Sözleşmesi) tarafları, YZ geliştirme ve kullanımının gizlilik ve veri koruma haklarına (Avrupa İnsan Hakları Sözleşmesi’nin 8. maddesi) saygı göstermesini sağlayacak ve mümkün kılacak ve böylece insan haklarını ve temel özgürlükleri geliştirecektir.

Bu Kılavuzlar, hükümetlerin, YZ geliştiricilerinin, üreticilerinin ve hizmet sağlayıcılarının YZ uygulamalarının özellikle veri koruma hakkı açısından her bireyin insan onurunu ve insan haklarını ve temel özgürlüklerini baltalamamasını sağlamak için uyması gereken bir dizi temel önlem sunmaktadır.

Mevcut Kılavuz İlkeler ‘deki hiçbir şey, Avrupa İnsan Hakları Sözleşmesi ve Sözleşme 108’in hükümlerini engelleyecek veya sınırlayacak şekilde yorumlanmayacaktır. Bu Kılavuz İlkeler ayrıca, çağdaşlaştırılmış Sözleşme 108’in (daha yaygın olarak “Sözleşme 108+” olarak anılır) yeni güvencelerini de dikkate almaktadır.

Genel Rehberlik

  • İnsan onurunun korunması ve insan haklarının ve temel özgürlüklerin, özellikle de kişisel verilerin korunması hakkının güvence altına alınması, bireyler ve toplum üzerinde sonuçları olabilecek YZ uygulamalarının geliştirilmesi ve benimsenmesinde esastır. Bu, özellikle YZ uygulamalarının karar alma süreçlerinde kullanıldığı durumlarda önemlidir.
  • Kişisel verilerin işlenmesine dayanan YZ geliştirme, Sözleşme 108+ ilkelerine dayanmalıdır. Bu yaklaşımın temel unsurları şunlardır: yasallık, adalet, amaç belirleme, veri işlemenin orantılılığı, tasarım gereği gizlilik ve varsayılan olarak, sorumluluk ve uyumluluğun gösterilmesi (hesap verebilirlik), şeffaflık, veri güvenliği ve risk yönetimi.
  • Kişisel verilerin işlenmesinin potansiyel risklerinden kaçınmaya ve bunları azaltmaya odaklanan bir yaklaşım, YZ alanında sorumlu inovasyonun gerekli bir unsurudur.
  • Sözleşme 108 Komitesi tarafından 2017’de kabul edilen Büyük Veri Kılavuzu’nda sağlanan risk değerlendirmesi kılavuzuna uygun olarak, veri işlemenin olası sonuçlarına ilişkin daha geniş bir bakış açısı benimsenmelidir. Bu görüş yalnızca insan haklarını ve temel özgürlükleri değil, aynı zamanda demokrasilerin işleyişini ve sosyal ve etik değerleri de dikkate almalıdır.
  • YZ uygulamaları her zaman veri sahiplerinin haklarına, özellikle Sözleşme 108+’nin 9. maddesi ışığında tam olarak saygı göstermelidir.
  • YZ uygulamaları veri sahiplerinin veri işleme ve bireyler ve toplum üzerindeki ilgili etkiler üzerinde anlamlı bir kontrole izin vermelidir.

Geliştiriciler, Üreticiler ve Hizmet Sağlayıcılar İçin Rehberlik

  • YZ geliştiricileri, üreticileri ve hizmet sağlayıcıları, ürün ve hizmetlerinin tasarımında Sözleşme 108+, özellikle madde 10.2 ve Avrupa Konseyi’nin diğer ilgili araçlarıyla tutarlı bir değer odaklı yaklaşım benimsemelidir.
  • AI geliştiricileri, üreticileri ve hizmet sağlayıcıları YZ uygulamalarının insan hakları ve temel özgürlükler üzerindeki olası olumsuz sonuçlarını değerlendirmeli ve bu sonuçları göz önünde bulundurarak uygun risk önleme ve azaltma önlemlerine dayalı ihtiyati bir yaklaşım benimsemelidir.
  • Veri toplama dahil olmak üzere işlemenin tüm aşamalarında, YZ geliştiricileri, üreticileri ve hizmet sağlayıcıları insan haklarına göre tasarım yaklaşımını benimsemeli ve kasıtsız veya gizli önyargılar ve ayrımcılık veya veri sahiplerinin insan hakları ve temel özgürlükleri üzerindeki diğer olumsuz etkiler dahil olmak üzere olası önyargılardan kaçınmalıdır.
  • YZ geliştiricileri, kullanılan kişisel verilerin kalitesini, doğasını, kaynağını ve miktarını eleştirel bir şekilde değerlendirmeli, geliştirme ve eğitim aşamaları sırasında gereksiz, tekrarlayan veya marjinal verileri azaltmalı ve ardından yeni verilerle beslendikçe modelin doğruluğunu izlemelidir. Sentetik verilerin kullanımı, YZ uygulamaları tarafından işlenen kişisel veri miktarını en aza indirmek için olası bir çözüm olarak düşünülebilir.
  • Bağlamından çıkarılmış veriler ve bağlamından çıkarılmış algoritmik modeller nedeniyle bireyler ve toplum üzerinde olumsuz etki riski, YZ uygulamalarının geliştirilmesinde ve kullanımında yeterince dikkate alınmalıdır.
  • Yapay zeka geliştiricileri, üreticileri ve hizmet sağlayıcıları, çeşitli alanlardan uzmanlardan oluşan bağımsız komiteler kurmaya ve onlara danışmaya ve ayrıca insan haklarına dayalı ve etik ve sosyal yönelimli yapay zeka uygulamaları tasarlamaya ve olası önyargıları tespit etmeye katkıda bulunabilecek bağımsız akademik kurumlarla etkileşime girmeye teşvik edilir. Bu tür komiteler, rekabet eden çıkarlar ve haklar nedeniyle şeffaflığın ve paydaş katılımının daha zor olabileceği alanlarda, örneğin öngörücü adalet, suç önleme ve tespiti alanlarında özellikle önemli bir rol oynayabilir.
  • Yapay zeka uygulamalarından potansiyel olarak etkilenen bireylerin ve grupların aktif katılımına dayalı katılımcı risk değerlendirme biçimleri teşvik edilmelidir.
  • Tüm ürünler ve hizmetler, yalnızca otomatik işleme dayalı olarak kendilerini önemli ölçüde etkileyen bir karara tabi tutulmama hakkını güvence altına alacak şekilde tasarlanmalıdır, görüşleri dikkate alınmamalıdır.
  • Kullanıcıların güvenini artırmak için, YZ geliştiricileri, üreticileri ve hizmet sağlayıcıları, YZ uygulamalarına uygulanabilir alternatifler sağlayarak, kullanıcıların UZ kullanımı üzerindeki seçim özgürlüğünü koruyan bir şekilde ürün ve hizmetlerini tasarlamaya teşvik edilir.
  • YZ geliştiricileri, üreticileri ve hizmet sağlayıcıları, veri koruma ve insan hakları hukuku ve ilkelerine uyumu sağlamak için, bu uygulamaların tüm yaşam döngüsü boyunca tüm ilgili paydaşların hesap verebilirliğini teşvik eden algoritma uyanıklığı biçimlerini benimsemelidir.
  • Veri sahipleri, bir YZ uygulamasıyla etkileşime girerlerse ve kendilerine uygulanan YZ veri işleme operasyonlarının altında yatan gerekçe hakkında bilgi edinme hakkına sahiplerse bilgilendirilmelidir. Bu, bu gerekçenin sonuçlarını da içermelidir.
  • Bireylerin görüşlerini ve kişisel gelişimini etkileyen teknolojilere dayalı işlemeyle ilgili olarak itiraz etme hakkı sağlanmalıdır.

Yasa Koyucular ve Politika Yapıcılar İçin Rehberlik

  • Hesap verebilirlik ilkesine saygı, risk değerlendirme prosedürlerinin benimsenmesi ve davranış kuralları ve sertifika mekanizmaları gibi diğer uygun önlemlerin uygulanması, YZ ürünlerine ve hizmetlerine olan güveni artırabilir.
  • Yasayla güvence altına alınan gizliliğe halel gelmeksizin, kamu alım prosedürleri YZ geliştiricilerine, üreticilerine ve hizmet sağlayıcılarına şeffaflık, veri işlemenin insan hakları ve temel özgürlükler üzerindeki etkisinin önceden değerlendirilmesi ve YZ uygulamalarının olası olumsuz etkileri ve sonuçları konusunda uyanıklık gibi belirli görevler yüklemelidir.
  • Gözetim otoritelerine YZ geliştiricilerinin, üreticilerinin ve hizmet sağlayıcılarının algoritma uyanıklığı programlarını desteklemek ve izlemek için yeterli kaynaklar sağlanmalıdır.
  • YZ uygulamalarının sağladığı çözümlere aşırı güvenmek ve YZ uygulamalarının önerdiği kararlara itiraz etme korkusu, karar alma süreçlerinde insan müdahalesinin özerkliğini değiştirme riski taşır. Karar alma süreçlerinde insan müdahalesinin rolü ve insan karar vericilerin YZ kullanılarak sağlanan önerilerin sonucuna güvenmeme özgürlüğü bu nedenle korunmalıdır.
  • YZ geliştiricileri, üreticileri ve hizmet sağlayıcıları, YZ uygulamalarının veri sahiplerinin insan haklarını ve temel özgürlüklerini önemli ölçüde etkileme potansiyeli olduğunda denetim otoritelerine danışmalıdır.
  • Veri koruma denetim otoriteleri ile YZ ile ilgili yetkiye sahip diğer kuruluşlar arasında iş birliği teşvik edilmelidir. Örneğin tüketici koruması, rekabet, ayrımcılıkla mücadele, sektör düzenleyicileri ve medya düzenleyici otoriteleri.
  • Uzman komitelerinin bağımsızlığını sağlamak için uygun mekanizmalar oluşturulmalıdır.
  • Bireyler, gruplar ve diğer paydaşlar, YZ’nın sosyal dinamikleri şekillendirmede ve onları etkileyen karar alma süreçlerinde hangi rolü oynaması gerektiği konusundaki tartışmalara bilgilendirilmeli ve aktif olarak dahil edilmelidir.
  • Politika yapıcılar, veri sahiplerinin YZ uygulamaları ve etkileri konusundaki farkındalığını ve anlayışını artırmak için dijital okuryazarlığa ve eğitime kaynak yatırımı yapmalıdır. Ayrıca, YZ geliştiricileri için profesyonel eğitim teşvik etmeli ve YZ’nın bireyler ve toplum üzerindeki potansiyel etkilerine ilişkin farkındalığı ve anlayışı artırmalıdırlar. İnsan hakları odaklı YZ’da araştırmayı desteklemelidirler.
Bu Makaleyi Paylaşın
mm
TarafındanSavaş Uluçay
Follow:
Siber Güvenlik Çalışma Grubu Başkanı, Yazar, Eğitimci. İlgi alanları: Yapay Zeka, Siber Güvenlik, Bilgi Güvenliği, Dijital Dönüşüm, Kriptoloji.