Son on yılda yapay zekânın etik gelişimi ve uygulanması için değerler, ilkeler ve çerçeveler tanımlamak amacıyla dünya çapında çok sayıda girişim ortaya çıktı. Bu girişimlerden bir kısmı doğrudan teknoloji şirketlerinin öncülüğünde gerçekleşirken bir kısmı da kamu kurumları ya da uluslararası örgütlerin çabalarıyla gerçekleştirildi. Yapay zekâ geliştirilmesine ve konuşlandırılmasına (deployment) yönelik üst düzey etik ilkeleri, esasları, değerleri veya diğer soyut gereksinimleri açıklayan çok sayıda rapor yayımlandı.

Yapay zekâ etiği tartışmaları iki ana konu etrafında yoğunlaşıyor: Kontrol ve sorumluluk.

Kontrol hakkındaki tartışmalar yapay zekâ teknolojileri üzerindeki kontrolümüzü koruyabilme ve kontrolü kaybetme riski üzerinde durur. Aslında bilim ve teknolojinin onu geliştiren insanların kontrolünden çıkma riski gerek edebiyatta gerekse de sinemada sıkça karşımıza çıkan bir konudur. Mary Shelley’in 19. yüzyılda yayımlanan Frankenstein adlı romanı, bilim ve teknolojinin büyüsüne kapılan insanlık için önemli bir uyarı niteliğindedir. Yaşamın sırlarını çözmek isteyen genç ve hırslı bilim insanı Victor Frankenstein, ceset parçalarını birleştirip bilimsel yöntemlerle yarattığı yapay varlık yüzünden sevdiklerini kaybeder ve hayatı cehenneme döner. Bilim kurgu yazarı Isaac Asimov, insanların yarattığı teknolojilerle yaşadığı çelişkilere bir çözüm olarak, robotlarla insanlar arasındaki ilişkiyi düzenleyen Üç Robot Yasası’nı önerir. Hollywood sineması, Terminator gibi kontrolden çıkan robotların hikayeleri ile doludur.

Kontrol fikri sadece bir şeyi yönlendirme, müdahale etme, durdurma veya başka bir şekilde engelleme kapasitesiyle ilgili değildir. Aynı zamanda, kontrol etmeye çalıştığımız teknolojileri anlama, tahmin etme ve izleme kapasitesi (veya eksikliği) ile de ilgilidir. Kara kutu özelliğini dikkate aldığımızda makine öğrenmesine dayalı sistemlerin bu konuda ciddi bir zaafı vardır. Yapay zekâ teknolojileri geliştikçe (derin öğrenme, üretken yapay zekâ, yapay zekâ ajanları, ajan temelli yapay zekâ vb.) söz konusu teknolojileri kontrol etmek de zorlaşmaktadır. Ajan temelli yapay zekâ sistemlerinde olduğu gibi yapay zekâ teknolojilerinin verdiğimiz hedefleri gerçekleştirirken insan olarak değer verdiğimiz şeylerle örtüşen çıktılar üretecek şekilde işlev görmesini sağlayabilmek giderek daha çok tartışılmaktadır.

Kontrol hakkındaki tartışmalar, yapay zekâ güvenliği (AI Safety) başlığı altında yoğunlaşıyor. Henüz süper zekâ veya yapay genel zekâ tartışmaları daha çok teorik düzeyde yürütülüyor olsa da yapay zekâ ajanları (AI Agents) ve ajan temelli yapay zekâ (Agentic AI) sistemlerinin kullanımının ve kullanım alanlarının artması yapay zekânın kontrolü hakkındaki endişeleri artırıyor. Rekabet ve geride kalma korkusu nedeniyle şirketler ve devletler giderek daha riskli olan yollara sapabiliyor.

Sorumluluk ise bir sorun çıkması durumunda kimin sorumlu tutulacağı kadar, bir sorunun çıkmaması için kimin gerekli önlemleri alması gerektiği ile de ilgilidir. Kontrol tartışmalarında etik, genellikle geliştirilen yapay zekâ teknolojilerinin kendisine (örneğin bu sistemlerin insan değerleriyle uyumuna) odaklanırken sorumlulukta ise odak teknolojinin kendisinden bu teknolojileri geliştiren, konuşlandıran, kullanan vb. aktörlere kayar. Bu doğrultuda yayımlanan yüzlerce etik çerçevede, başta yapay zekâ teknolojilerini geliştirenler olmak üzere söz konusu aktörlerin göz önünde bulundurulması gereken ilkeler üzerinde durulur.

Bu çokluğa karşın biyomedikal etiğin dört klasik ilkesine oldukça benzeyen bir dizi prensip üzerinde uzlaşma göze çarpmaktadır: özerklik, yararlılık, zarar vermeme ve adalet. Peki biyomedikal etikte prensiplere dayalı bu yaklaşım, yapay zekâ etiğinde başarılı olabilir mi?

Biyomedikal Etik ve Prensipçilik

Aşağıdaki dört prensip, biyomedikal etikteki genel yol göstericilerdir:

• Özerklik (Otonomi): Hastanın kendi sağlığı ve bedeni hakkında karar verme hakkına saygı duyulmasıdır.
• Zarar Vermeme (Kötü Davranmama): Hekimin veya sağlık çalışanının hastaya bilerek zarar vermemesi, riski yüksek ve gereksiz müdahalelerden kaçınmasıdır.
• Yararlılık: Hastanın iyiliğini gözetmek, sağlığını korumak ve ona fayda sağlamak için çaba harcama yükümlülüğüdür.
• Adalet: Sağlık kaynaklarının dağıtımında, tedaviye erişimde ve bakım hizmetlerinin sunumunda eşitlikçi, tarafsız ve hakkaniyetli olmaktır.

Bu dört prensip, biyomedikal etikte prensipçilik adıyla anılan kuramın temelini oluşturur. Ancak Beauchamp ve Childress’ın Biyomedikal Etik Prensipleri adlı kitabında belirttiği gibi prensipçilik sadece bu soyut prensiplerin bir listesi ve analizi değildir. Prensipçilik, prensiplerle uygulamalar arasındaki bağlantı ve prensiplerin uygulamaları nasıl yönlendirdiği ile de ilgilidir. Prensipçilik, “bu durumda hangi kuralı uygulamalıyım?” sorusundan çok “bu durumda hangi temel etik ilkeler devreye giriyor ve bunlar arasında nasıl bir denge kurmalıyım?” diye sorar. Örneğin bir hasta, tedaviyi reddettiğinde etik düşünce çerçevesinde doktor şunları göz önünde bulundurur:

• Hastanın özerkliği, kararına saygı göstermeyi gerektirir.
• Yararlılık, hastaya fayda sağlayacak tedavinin uygulanmasını gerektirebilir.
• Zarar vermeme, tedavinin reddedilmesinin doğurabileceği zararları dikkate almayı gerektirir.

Yapay zekâ etiği alanı da daha çok tıp etiğinde olduğu gibi bazı temel prensipler etrafında şekillendi. Hatta biyomedikal etikteki dört temel prensip doğrudan birçok yapay zekâ etiği çerçevesinde yer aldı. Fakat biyomedikal etikte etkili olan prensipçiliğin aynı etkiyi yapay zekâ etiğinde göstermesi oldukça zordur. Mittelstadt’ın “Yalnızca ilkeler etik yapay zekâyı garanti edemez.” başlıklı çalışmasında vurguladığı gibi tıp ve yapay zekâ geliştirme alanları arasında prensipçiliğe dayalı bir yaklaşımın başarılı olmasını zorlaştıran önemli farklılıklar söz konusudur. Mittelstadt’a göre yapay zekâ etiğinde tıp etiğinden farklı olarak dört temel unsur eksiktir:

1. Ortak Amaçlar ve Güvene Dayalı Mesleki Yükümlülükler

Bir mesleğin en belirleyici özelliklerinden biri, o mesleği icra edenlerin ortak amaçlara, değerlere ve eğitime sahip bir ahlaki topluluğun parçası olmalarıdır. Tıpta bunu çok net görürüz. Tıp, genel olarak hastanın sağlığını ve refahını teşvik etme amacı tarafından yönlendirilir. Bu ortak amaç, etik karar verme konusunda ilkeli bir yaklaşımı kolaylaştırır.

Yapay zekâda ise geliştiricilerin, kullanıcıların ve etkilenen tarafların temel amaçları her zaman örtüşmeyebilir. Geliştiriciler genellikle şirket çıkarlarının öncelikli olduğu; maliyetleri düşürme, kârı artırma ve daha yüksek kalitede sistemler sunma baskısının yoğun hissedildiği ortamlarda çalışırlar. Sağlık profesyonelleri benzer örgütsel baskılarla karşı karşıya kalsalar da bu baskılar aynı düzeyde değildir. Daha da önemlisi tıbbın aksine, yapay zekâ geliştirmede etik karar alırken çıkarlarına öncelik verilen bir “hasta” yoktur.

Aslında çıkarlarına öncelik verilecek bir hastanın bulunmaması, yapay zekâ geliştirmede oldukça belirleyici bir eksikliktir. Özel sektördeki yapay zekâ geliştiricileri için güvene dayalı mesleki yükümlülük ilişkileri mevcut değildir. Geliştiriciler, diğer geleneksel mesleklerde olduğu gibi kamu yararını savunmayı gerektiren bir kamu hizmeti yürütmezler. Belki kamu sektöründe kullanılan yapay zekâ veya yazılımlar için kısmi bir kamusal sorumluluktan söz edilebilir; ancak özel sektördeki faaliyetler için aynı şey söylenemez. Şirketlerin ve çalışanlarının temel güvene dayalı yükümlülükleri hissedarlarına karşıdır. Dolayısıyla kamu yararı, ticari çıkarların üzerinde bir önceliğe sahip değildir.

Yapay zekâda güvene dayalı mesleki yükümlülük ilişkisinin olmaması, geliştiricilerin etik ilkeleri uygularken kendi çıkarları yerine kullanıcıların çıkarlarını önceleyeceğinin garanti edilemeyeceği anlamına gelir. Teknoloji şirketleri sadece itibarlarını korumak için etik konularla ilgilenebilir. Ya da kişisel ahlaki inançlar, yapay zekâ geliştiricilerini iyi davranışlara yönlendirebilir. Fakat kullanıcıların ve etkilenen tarafların mahremiyet, özerklik, adalet ve diğer alanlardaki hayati çıkarlarının ciddiye alınması için geliştiricilerin kişisel inançlarına, şirketlerin itibar kaybı korkusuna veya kamuoyunun tepkisine bel bağlamak zorunda kalması kabul edilebilir bir durum değildir.

2. Mesleki Tarih ve Normlar

Tıp, uzun bir geçmişe; farklı kültürler ve uzmanlık alanları arasında biçimlenmiş ortak bir meslek kültürüne sahiptir. Sağlık mesleklerinin ahlaki yükümlülüklerine ve erdemlerine dair ilkeler yüzyıllar boyunca gelişmiştir. Tarih boyunca oluşturulan standartlar ve “iyi” bir doktor olmanın tanımları, etik ihlalleri tamamen önleyemese de ihmalkâr davranışların ve uygulamaların saptanabileceği net bir çerçeve sunar. Bununla birlikte tarih boyunca yaşanan başarısızlıklar, yeni teknolojiler, tedavi yöntemleri ve değişen sosyal değerler, etik standartların sürekli olarak gözden geçirilmesine neden olmuştur. Örneğin İkinci Dünya Savaşı sırasında Nazi Almanyası’nda insanlar üzerinde gerçekleştirilen insanlık dışı deneyler, zorla kısırlaştırmalar ve ötanazi uygulamaları, bir dizi araştırma etiği kuralının gündeme gelmesine yol açmıştır.

Yapay zekâ geliştirme alanının ise benzer bir geçmişi, homojen bir meslek kültürü/kimliği veya benzer şekilde olgunlaşmış meslek etiği çerçeveleri yoktur. Bu disiplin; etik yükümlülüklerin açıkça tanındığı, belirli ve pratik ahlaki görevler ile en iyi uygulamalara dönüştürüldüğü benzer tarihsel dönüşüm anlarından geçmemiştir. Yapay zekâ prensipte insan uzmanlığı gerektiren her türlü bağlamda (eğitim, hukuk, sağlık, güvenlik, işe alma vb) kullanılabilirken, tıp buna kıyasla çok daha tanımlı ve dar amaçlara sahiptir. Bu durum, tıp alanındaki standart uygulamaların ve normların geliştirilmesini kolaylaştırır. Yapay zekâ geliştiricileri ise farklı geçmişlere, kültürlere, teşvik yapılarına ve ahlaki sorumluluk anlayışlarına sahip çok çeşitli disiplinlerden gelmektedir.

Ayrıca doktor ile hastası arasında hem fiziksel hem de zamansal bir yakınlık bulunur. Tıbbi bir kararın etkileri (her zaman olmasa da) çoğunlukla doğrudan gözlemlenebilir. Ancak yapay zekâ sistemlerinin tasarlanması, eğitilmesi ve yapılandırılmasında alınan kararların etkisi, kararı alan kişinin ne yakın bir fiziksel mesafesinde ne de anlık zaman diliminde ortaya çıkabilir. Üstelik şeffaf olmayan (kara kutu) sistemlerde bir hatanın izini sürebilmek ve sorumluyu tespit edebilmek de oldukça zordur. Geliştirme tercihlerinin etkilerini güvenilir bir şekilde tahmin edemediğimizde, “iyi” bir yapay zekâ geliştiricisi olmak için gereken standartların veya “iyi” yapay zekâ için aranan kriterlerin oluşturulması da zorlaşmaktadır.

3. Prensipleri Uygulamaya Dönüştürmek İçin Kanıtlanmış Yöntemler

Prensipler otomatik olarak uygulamaya dönüşmez. Tıp, tarihi boyunca üst düzey taahhütleri ve prensipleri pratik gerekliliklere ve “iyi” uygulama normlarına dönüştürmenin etkili yollarını geliştirmiştir. Meslek dernekleri ve kurulları, etik inceleme komiteleri, akreditasyon ve lisanslama sistemleri, davranış kuralları ve güçlü kurumlar tarafından desteklenen diğer mekanizmalar; zor vakaları değerlendirerek, ihmalkâr davranışları belirleyerek ve kötü niyetli aktörleri cezalandırarak günlük uygulamanın etik açıdan kabul edilebilirliğini denetlemeye yardımcı olur. Tıp uygulamasını yöneten resmi kurallar ve gayriresmî normlar zaman içinde kapsamlı bir şekilde test edilmiş, incelenmiş ve revize edilmiş; böylece sunduğu öneriler, normlar ve temel prensipler güncelliğini koruyarak evrimleşmiştir.

Yapay zekâ geliştirmede ise prensipleri uygulamaya dönüştürmek için karşılaştırılabilir, ampirik olarak kanıtlanmış yöntemler henüz yoktur. Ayrıca değer odaklı yöntemler de belirli prosedürler sunmalarına karşın pratikte tam olarak işlevsel değildir. Bu yöntemler genel olarak geliştirme sürecine değerleri, normatif konuları ve ilgili paydaşları dâhil ederler. Ancak belirli değerlerin sistem tasarımına doğrudan enjekte edilmesine izin vermezler ve ortaya çıkan ürünün bu değerleri veya özellikleri ne ölçüde yansıttığını ölçmekte zorlanırlar.

Yapay zekâ genellikle kamuoyunun katılımı olmadan, “kapalı kapılar ardında” geliştirilmektedir. İlgili paydaşların görüşlerini toplamak, geliştirme ekibine bir etik uzmanı yerleştirmek ve özü gereği tartışmalı kavramların farklı yönleri arasındaki çatışmaları çözmek ek iş gücü ve maliyet yaratmaktadır. Şaşırtıcı olmayan bir şekilde, etik hususlar ticari teşviklerle çakıştığında kolaylıkla göz ardı edilebilmekte; verimlilik, hız ve kârı önceleyen ticari süreçler etik kaygıların önüne geçebilmektedir.

4. Güçlü Hukuki ve Mesleki Hesap Verebilirlik Mekanizmaları

Tıp ile karşılaştırıldığında yasal ve mesleki hesap verebilirlik mekanizmaları, yapay zekâ alanında nispeten oldukça yetersizdir. Tıp; mesleki standartları destekleyen ve hastalara ihmalkâr davranışlar karşısında tazminat imkânı sağlayan yasal ve mesleki çerçevelerle yönetilir. Sağlık alanında regülasyona tabi bağımsız kurumlar bulunur ve yasal olarak desteklenen bu hesap verebilirlik mekanizmaları, sağlık profesyonelleri ile hastalar arasındaki ilişkiyi doğrudan düzenler.

Buna karşın yapay zekâ alanında süreçleri denetlemek ve düzenlemek için çok az yaptırım mekanizması ve hukuki çözüm kanalı bulunmaktadır. Açıkça tanımlanmış ve uygulamada karşılığı olan yükümlülükler henüz oldukça yetersizdir.

Sonuç

Yapay zekâ etiğini, entelektüel bir sohbetin ötesinde somut adımlar atmayı hedefleyen bir bakış açısıyla tartışmak daha yararlı olacaktır. Bu bağlamda, yapay zekâ geliştiricilerine soyut görevler, sorumluluklar veya “iyiyi” tanımlayan prensipler öne sürmek yerine; aşağıdan yukarıya doğru, kamu çıkarını merkeze alan bir yaklaşım geliştirmek önemlidir. Tartışmalara soyut ilkelerden değil, doğrudan aşağıdaki gibi somut sorunlardan yola çıkarak başlamalı ve bu sorunların doğrudan muhatabı olan kesimlerle birlikte hareket etmeliyiz:

• İş yerlerinde, çalışanları güçlendirmek yerine onların yerini almayı hedefleyen yapay zekâ sistemleri,
• Yurttaşların alınan kararları sorgulayamadıkları yapay zekâ destekli karar mekanizmaları,
• Kuruldukları bölgenin kaynaklarını kurutan bulut bilişim merkezleri,
• Mahremiyet ihlalleri,
• Sağlık yardımı almak için kullanılan sohbet robotlarının yarattığı riskler.

Yapay zekâ, toplumun birçok işlevini destekleyen altyapılar için giderek daha önemli hâle geliyor. Ulaşım, güvenlik, enerji ve eğitim sektörleri; iş yerleri ve hükümetler, iyileştirme veya koruma amacıyla yapay zekâyı kendi sistemlerine dâhil ediyor. Yapay zekâ mevcut altyapıları desteklerken, kendisi de bugünün ve yarının birçok hizmetinin varlığını borçlu olacağı temel bir altyapıya dönüşüyor. Yapay zekâ geliştirme ve konuşlandırma için ortaya atılan ilkeler, ancak bu sorunların gerçek muhataplarının istekleri ve mücadeleleriyle zorlayıcı bir nitelik kazanacaktır.

Ayrıca günümüzdeki yapay zekâ etiği girişimleri, daha çok bireysel mesleklerin davranış ve değerlerini ele alan profesyonel etik kurallarına benziyor. Oysa yapay zekâ geliştiricilerinin önemli bir kısmı dev teknoloji şirketlerinin ücretli çalışanıdır ve genellikle kendilerini istihdam eden kurumların sınırlarına hapsolmuş durumdadır. Dolayısıyla tartışmayı, bireylerin etik ihlallerinden; kurumların etik dışı eylemlerine, iş modellerine ve yapısal sorunlara kaydırmamız gerekiyor.

Yararlanılan Kaynaklar

Beauchamp, T. L., & Childress, J. F. (2017). Biyomedikal Etik Prensipleri (çev. M. Kemal TEMEL), BETİM 

Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature machine intelligence, 1(11), 501-507.