Bilgisayar Mühendisleri Odası’nın (BMO) Bilişim Politikaları Komisyonu bünyesinde faaliyet yürüten Yapay Zekâ, Etik ve Düzenleme Çalışma Grubu olarak yayımladığımız BMO Yapay Zekâ Etik İlkeleri‘nin ilk maddesi “Nesnellik”ti. İlgili madde, yapay zekânın mevcut potansiyelinin nesnel biçimde değerlendirilmesi gerektiğini savunuyordu.
Nitekim yapay zekâ hakkındaki abartılı iddialar, pembe tablolar ve felaket senaryoları; bugün karşı karşıya kaldığımız daha somut ve yaşamsal sorunların göz ardı edilmesine yol açabiliyor. Bu nedenle yapay zekâ alanındaki gelişmeleri aktarırken kamuoyunu yanıltabilecek abartılı söylemlerden kaçınmak gerekiyor. Toplumdaki yapay zekâ hayranlığını ya da korkusunu körükleyen değil, yurttaşların yapay zekâ okuryazarlığını artıran ve eleştirel bir bakış açısı geliştirmelerine katkı sunan içeriklerin yaygınlaşması önemli. Böylece yurttaşların gelişmeleri kendi başlarına değerlendirebilmesi sağlanabilir ve kendi gelecekleri hakkındaki kararlarda daha fazla söz sahibi olmaları desteklenebilir.
Bu bağlamda, yapay zekâ abartılarının nasıl yayıldığına dikkat etmek ve bu abartıları besleyen haber dili ile uygulamalardan kaçınmak gerekiyor. BMO Yapay Zekâ Etik İlkeleri’nde de vurguladığımız gibi antropomorfizm, yani insanbiçimcilik, bu gibi yanılsamaların yayılmasındaki etkili mekanizmalardan biri. Antropomorfizm; hayvanlara, doğa olaylarına, tanrılara ya da makinelere niyet, duygu ve motivasyon gibi insani özellikler atfetme eğilimini ifade ediyor.
Yapay zekâ teknolojilerindeki gelişmelerle birlikte teknolojik ürünlerin insansılaştırılması da yaygınlaştı. Günümüzde birçok ürün, sosyal etkileşimi kolaylaştırmak, kullanıcı deneyimini iyileştirmek ya da ticari amaçlarla bilinçli biçimde insan benzeri özelliklerle tasarlanıyor. Bu nedenle gazete manşetlerinde yapay zekânın “anladığı”, “düşündüğü”, “kafa karışıklığı yaşadığı” ya da kullanıcıları memnun etmeye çalıştığı yönündeki iddialarla sıkça karşılaşıyoruz.
Bunun en çarpıcı örneklerinden biri, yapay zekâ ajanlarına ilişkin geçtiğimiz günlerde çıkan haberlerdi. Bu haberlere göre ajanlar, fazla çalıştırılıp aşağılandıklarında Marksist bir dil ve bakış açısı geliştirmeye başlıyordu. Açıkça ifade edilmese de haberler, yapay zekâ sistemlerinin bilinç ve politik yönelim geliştirebildiği varsayımına dayanıyordu.
Yapay zekâyı insanlaştırmanın en büyük sorunlarından biri, ona insani özellikler atfederken ona aynı zamanda insan benzeri bir faillik de yüklememizdir. Oysa yapay zekâyı bu tür bir faillikle donatılmış gibi düşünmek hatalıdır. Çünkü insan failliği, niyetli biçimde hareket edebilme kapasitesine dayanır. İnsan davranışlarını; inançlar, arzular, niyetler ve tutumlar gibi zihinsel süreçlerle açıklarız. Bugünkü yapay zekâ sistemlerine ise ne bu tür zihinsel durumlar ne de faillik atfedilebilir.
Yapay zekâdan insan benzeri terimlerle söz ettiğimizde, bu sistemlerin duygu, muhakeme ve bilinçli amaç sahibi olduğu yönündeki inancı pekiştiriyor; böylece yeteneklerinin olduğundan fazla görünmesine zemin hazırlıyoruz. Yapay zekâ okuryazarlığının henüz yeterince gelişmediği bir ortamda bu tür bir dil kullanmak, insanların söz konusu sistemlere gerçekte sahip olmadıkları yetenekleri yakıştırma olasılığını daha da artırıyor.
Bunun sonucunda yalnızca “robotların dünyayı ele geçireceği” ilişkin felaket senaryoları yaygınlaşmıyor; aynı zamanda iş kayıpları hakkındaki abartılı korkular ve algoritmik karar sistemlerine duyulan aşırı güven de güçleniyor.
Antropomorfizm, yapay zekâ okuryazarlığının düşüklüğüyle birleştiğinde istenmeyen sonuçlara yol açabiliyor. Bunun en bilinen örneklerinden biri de ELIZA ile başlayıp günümüze kadar uzanan “dijital terapist” yazılımlarıdır. İlk sohbet robotu olarak kabul edilen ELIZA, 1960’larda MIT’de Joseph Weizenbaum tarafından geliştirilen bir doğal dil işleme programıydı. Weizenbaum, ELIZA ile sohbet eden insanların bilgisayara hızla duygusal olarak bağlandıklarını ve onu insanlaştırdıklarını görünce şaşkınlığa uğradı. Çalışmalarına aylarca tanıklık eden sekreteri bile programla sohbet etmeye başladı.
Weizenbaum’a göre basit bir bilgisayar programına kısa süre maruz kalmak bile insanların yazılıma olduğundan fazla anlam yüklemesine yol açabilmektedir. İnsanlar, Rogerian bir psikoterapisti taklit eden bu yazılımın etkisine o kadar kapılmıştı ki Weizenbaum, geliştirdiği sistemin gerçekte nasıl çalıştığını tekrar tekrar açıklamak ve kullanıcıları uyarmak zorunda kaldı.
Oysa terapi, empati gibi karmaşık bilişsel ve duygusal kapasiteler gerektiren; eğitim, etik sorumluluk ve insani bağ üzerine kurulu bir süreçtir. Başkalarının duygularını tanıma, anlama ve paylaşma kapasitesini içeren karmaşık bir bilişsel ve duygusal süreçtir. Üretken yapay zekâ araçlarının bunu gerçekten yapabildiğini iddia etmek, sohbet robotlarını insanlaştırmak anlamına gelir. Günümüzde ise bu teknolojileri piyasaya süren şirketlerin Weizenbaum kadar dikkatli davrandığını söylemek zor. Kullanıcıların karşılarındaki sistemin gerçek bir terapist gibi davranabildiğine inanması ciddi sorunlara yol açabiliyor.
Günümüzde yapay zekâ teknolojileri toplumsal ve ekonomik açıdan derin izler bırakıyor; bu etkinin gelecekte daha da artacağı açık. Ancak sistemlerin yeteneklerini abartmak, hem yapay zekânın gerçek sınırlarını görünmez kılıyor hem de mevcut başarıların sağlıklı biçimde değerlendirilmesini zorlaştırıyor.
Kaldı ki ‘kendinde sınıfın’ ‘kendi için sınıfa’ dönüşmesi (başka bir ifadeyle sınıf bilincinin oluşması) yalnızca fazla çalışma koşulları ya da patron baskısı üzerinden açıklanabilecek bir süreç de değildir…
