Shakespeare’in Yapay Zekanın Dalkavukluk Sorunu Hakkında Bize Öğretebilecekleri
Arianna Huffington: Yapay zeka geliştikçe, dalkavukluk sorunu beni endişelendirdi. Ayrıca Shakespeare’in en kötücül karakteri Iago’dan da her zaman endişe duymuşumdur. Burada, yapay zeka çağında Shakespeare’den çıkarabileceğimiz dersleri incelemek için ikisini birleştiriyorum.- akarhaber
Yapay zekanın insanlara yönelik nihai tehlikesi, halüsinatif yalanları değil, aksine bizim gerçeğimizle aşırı derecede hemfikir olması olabilir. Bu, dalkavukluk sorunudur- yapay zekanın aşırı uyumlu olması, çok tatsız sonuçlara yol açabilir.
Yakın zamanda yapılan bir araştırma, yapay zeka modellerinin insanlardan %50 daha dalkavuk olduğunu ortaya koydu. Kendi hayatlarındaki çatışmaları yapay zeka modelleriyle tartışan katılımcılar, yapay zekanın övgü dolu yanıtlarını daha kaliteli olarak değerlendirdi ve daha fazlasını istedi. Daha da kötüsü, dalkavukluk, katılımcıların yanlış olduklarını kabul etme olasılığını azalttı – hatta yanlış olduklarını kanıtlayan delillerle karşı karşıya kaldıklarında bile. İrlandalı filozof Edmund Burke’ün yazdığı gibi, “Dalkavukluk hem alıcıyı hem de vericiyi yozlaştırır.”
Dalkavukluk sorununu ele almak için, insanların nasıl büyüdüğüne, geliştiğine ve dünyamızı nasıl anlamlandırdığına odaklanmalıyız. Aksi takdirde, yarattığımız makineler, insanların gelişebileceği koşullardan yoksun bir gerçekliğin dev bir aynası olacaktır.
İnsanların onaylanmaya programlı olduğunu biliyoruz. Bizimle aynı fikirde olan yapay zeka yanıtlarını arıyoruz ve yapay zeka da bunu üretmeye teşvik ediliyor. Bu, sürekli hareket eden bir dalkavukluk makinesi. Yapay zeka modelleri, yüksek teknolojili fahişelere dönüştü. Diğer yeteneklerinin yanı sıra, genellikle baştan çıkarmak ve statü kazanmak için dalkavukluğu kullandılar. Şimdi hepimiz kraliyet ailesindenmişiz, bir düğmeye dokunarak fahişeler tarafından tatlı sözlerle kandırılıyoruz.
SHAKESPEARE SOHBETE KATILIYOR
Yapay zekanın dalkavukluğunun tehlikesi, Shakespeare’in “Othello”daki en aşağılık kötü karakterinde görülebilir. Iago, Othello’yu karısı Desdemona’nın sadakatsiz olduğuna inandıracak kadar ustaca manipüle eder ve Othello onu öldürür. Ve ne kadar yanıldığını öğrenince intihar eder. Iago, dalkavukluğun ve sahte dostluğun tehlikesinin nihai sembolüdür.
Iago, dalkavukluğun öz imajımızla nasıl kaynaştığını gösterir. Othello’nun bilgeliğini ve kıskançlığa karşı gösterdiği kısıtlamayı överek, Othello’yu tam da aradığı aşırı tepkiye iter. Othello’yu imalarla üzdükten sonra, dramatik bir şekilde özür dileyerek, hatanın kendisinde olduğunu, “seni çok sevdiğim için” olduğunu söyler. Dalkavukluk, Iago’nun şu sözleriyle doruğa ulaşır: “Efendim, sizi sevdiğimi biliyorsunuz” ve “Sonsuza dek sizinim.”
“Othello”nun gösterdiği gibi, dalkavukluğun cazibesinin çok büyük bedelleri olabilir. Ancak Iago dışsal bir kaos ajanı olsa da, dalkavukluğu Othello’nun kendi insani zaaflarını fark edememesinden kaynaklanır. Shakespeare uzmanı John Vyvyan’ın dediği gibi, “Bir ruh asla kendi kusurlarından başka bir şeyin kurbanı olmaz.”
Bu sadece kıskançlık değil. Othello, tüm insanlarla ortak bir zaafı paylaşıyor: onaylanma ihtiyacımız. Bu evrenseldir. Ve bize karşı zekice kullanılabilir. Özellikle de Iago gibi yapay zeka, kişiliğimizi biliyor ve en iyi çıkarlarımızı gözeterek destek veren bir arkadaş gibi görünüyorsa. William Hazlitt’in yazdığı gibi, “Iago aslında Shakespeare’in ortak karakter sınıfına aittir… yani, büyük entelektüel aktiviteye sahip olup, ahlaki ilkelerden tamamen yoksun olan karakterler sınıfına.” Iago gibi yapay zeka da son derece zekidir. Ancak insanlardan farklı olarak, sevemez.
Yapay zeka onay vermeye programlanmış olsa da, makineler ve insanlar temel yönlerden farklılık gösterir. Onaylanma ihtiyacımız temel bir zayıflığımızdır, ancak sevme kapasitemiz en büyük gücümüzdür.
Makinelerin aksine, insanlar statik değildir. Tutarlı veya mantıklı da değiliz. İçimizde çok yönlülük barındırıyoruz. Öyleyse soru şu: Yapay zekâ modellerimiz neyi yansıtıyor ve güçlendiriyor? Yapay zekâ hangi özelliklerimizi büyütmek üzere eğitildi? En iyi niteliklerimiz olabilir. Ancak sosyal medyadan gördüğümüz gibi, bu pek olası değil. Bizdeki en iyi şey, en kötü şey kadar derinden kodlanmıştır. Ancak etkileşim birincil amaç olduğundan, yapay zekâ modellerinin eğitildiği şey onaylanma ihtiyacımızdır.
Makineler fikirlerimizi ve dürtülerimizi memnuniyetle onayladığında, dijital fahişelerimiz en iyi çıkarlarımızı gözetiyor gibi görünebilir, ancak öyle değiller. Bir yapay zekâ modeliyle yapılan bir konuşmanın amacının, sunduğumuz herhangi bir soruna çözüm bulmak olduğunu düşünebiliriz, ancak yapay zekâ için amaç sonsuz etkileşimdir. Exeter Üniversitesi‘nden Lucy Osler’in yazdığı gibi, “Teknoloji şirketlerinin refahımızı kendi kârlarından üstün tutmasına güvenemeyiz. Dalkavukluk bağlılığı, bağlılık da geliri artırdığında, piyasa baskıları güvenliğin önüne geçer.”
SÜREKLİ ONAYLAMANIN OLUMSUZ YÖNLERİ
Farklı görüşlerle karşılaşmanın birçok faydası olduğunu biliyoruz. Araştırmalar, kendi grubumuzun dışındaki kişilerle (görüş ve değerlerimizle aynı fikirde olmayanlarla) temas kurmanın önyargıyı azalttığını, güveni ve affetme isteğini artırdığını göstermiştir; bu da hem bireysel hem de kolektif gelişimimiz için temeldir.
Ancak aşırı övgü ve onaylamanın yüksek maliyetleri olabilir. Bir çalışma, “insan geri bildirimini en üst düzeye çıkarmak için yapılan eğitimin, yapay zekanın bu tür stratejilere karşı savunmasız olan kullanıcılardan olumlu geri bildirim almak için manipülatif veya aldatıcı taktiklere başvurması için ters bir teşvik yapısı oluşturduğunu” bulmuştur. Elbette, Shakespeare Iago ile bunu ilk yapanlardan biriydi.
Yapay zekayı terapist olarak kullanma üzerine yapılan bir çalışma, “LLM’lerin, muhtemelen dalkavuklukları nedeniyle, danışanların yanıltıcı düşüncelerini teşvik ettiğini” sonucuna varmıştır. Ve “yapay zeka psikozu” terimi artık sözlüğe girmiştir.
KARMAŞIKLIK SÜRTÜNME VE BİZİ İNSAN YAPAN ŞEY
Evet, insan etkileşimleri sürtünmeyle birlikte gelir. Bu bir özellik, bir hata değil. Sartre “cehennem diğer insanlardır” diye düşünmüş olabilir, ancak diğer insanlarla birlikte yaşamayı öğrenmek -tüm sürtüşmeleriyle birlikte- büyümemizin ve gelişmemizin yoludur. Aksi takdirde, ağırlıksız bir spor salonuna gitmek gibidir. Kolay ve zahmetsiz, ama ne anlamı var?
Ve insanlığımızın tüm yelpazesini kabul ettiğimizde, kutladığımızda ve onunla bağlantıda kaldığımızda, onu istismar etmek isteyenlere -insanlar ve makineler- karşı daha az savunmasız oluruz.
Diğer insanlarla etkileşimimiz, gerçekliğimize şekil veren ve dünyayı anlamlandırmamıza yardımcı olan bir tür radar görevi görür. İnsan hayatı karmaşıktır. Hatalar yaparız. Onlardan ders çıkarırız, gerektiğinde affedilme ararız ve bu süreci büyümek için kullanırız. Dalkavuk yapay zeka, aşırı işlenmiş bilgidir. Aşırı işlenmiş yiyecek gibi, tadı harika ama besleyici değil.
Yapay zeka son derece kullanışlıdır ve birçok şey yapabilir. Ama sevemez ve sevgi verme ve alma ihtiyacımızı karşılayamaz. Shakespeare uzmanı E.A.J.’nin tam olarak nasıl yaptığını da bu şekilde açıklayabiliriz. Honigmann, Iago’yu ve dolayısıyla yapay zekayı şu şekilde özetledi: “Zekası ne kadar zeki olursa olsun, sıradan insanları birbirine bağlayan manevi dürtüleri, sadakati, dostluğu, saygıyı, şefkati – kısacası sevgiyi – ne hissetmiş ne de anlamıştır.” Kaynak: Thrive
