Son tedirgin edici: ChatGPT

Henüz ‘mekanik’ olanla tanışıp koklaşmadan, ‘metaverse’ denen kara deliğe düştük. Türkiye olmasa da dünya, hayli tuhaf bir ‘dijital evren’e doğru koşuyor. İşin acı yanı; bizim evrim hızımızdan daha süratli oluyor tüm bunlar. Nice ütopik yahut distopik tasavvurun çok, ama çok ötesinde bir değişime, hatta dönüşüme gebe her şey – ve bu, 68 yahut 80 kuşağı için hayli ürkünç.

Belki denecek ki: Tarihin eprimiş sayfalarına ‘karanlık çağ’ diye italik yazılmış Ortaçağ da bilimi, değişimi yadsımıştı!

Kısmen doğru; ancak biz bilimi ve değişimi yadsımıyoruz. Olan şu: Bilimin gelişme hızı toplumsal değişim ve biyolojik evrimimizin hızından yüksek. Yetişemiyor, anlamıyor ve ürküyoruz.

Ürküyoruz, çünkü rızamız dışında vurulan aşıların on yıl sonra nelere yol açacağını bilmiyoruz. Besin endüstrisinde hızlı ve verimli üretim için kullanılan kimyasal, genetik katkıların bir kuşak sonra nelere mal olacağını bilemiyoruz.

İnsan bedeni 5-10 kuşakta bir değişime ayak uyduruyor ve biz bir kuşakta neler olup biteceğini bilemiyoruz.

İtiraf etmeli ki, teknolojik gelişmelere toplumlar gelişemeden ulaştık; insan hakları, hayvan hakları, cinsiyet eşitliği, gelir adaleti vs. sağlanamadan teknolojik oyuncakların sersemlemiş kullanıcısı olduk. Ürkünç olan bu!

***

Evet; görünen o ki, ilk darbeyi eğitim yiyecek. Eğer belli hassasiyetleri, eleştirel bilinç ve organik bir varlık olmayı işin içine katan bir eğitim anlayışını benimseyip yayamazsak, yapay zekâ ve sohbet robotları, basit bilgiye erişim kolaylığı sebebiyle öğretmen ve akademisyenleri işsiz bırakabilir.

İkinci darbe ise kültüre, sanata inecek gibi.

Şunu söylemek gerek: Yapay zekâ olarak adlandırılan ‘şey’, şiir gibi, öykü gibi, roman gibi ‘yaratıcılık’ isteyen metinlerin dik âlâsını yazma gizilgücüne erişeli neredeyse çeyrek yüzyıl oldu. Lakin hep bir “şey”ler eksik kaldı, ortaya çıkan metin yavan oldu.

Ama bu, çeyrek yüzyıl sonra sohbet robotlarının, yapay zekânın imgesel, ıraksak düşünüşü öğrenemeyecekleri anlamına gelmiyor.

Böyle peş peşe –sel ve –sal’ları sıralayınca, iştahınız kaçmasın lütfen. Şunu demeye çalışıyorum: İnsanları, diğer canlılardan ayıran bazı temel beceriler vardır; bunlar yaratıcılık (creativity), eleştirel düşünme/bilinç (critical thinking/ consciousness) ve hayal gücüdür (imagination). Bizi, tür olarak belirleyen özelliğimiz, günlük yaşantımızda bu becerileri kullanma sıklığı ve maharetimizdir.

Yaratıcılık, sorun odaklı çözüm üretme ve eleştirel düşünme gibi konulardaki tartışmalar Sputnik öncesi döneme, yani uzay çağının başlangıcından eskiye kadar uzanır. Bu tartışmaları şekillendiren hâkim düşünce, 1949 yılında J.P. Guilford’un Amerikan Psikologlar Birliği’nde yaptığı başkanlık konuşmasıdır.

Guilford, zekâ ve yaratıcılık arasındaki bağı anlamaya ömrünü verir neredeyse. Irklar arasında zekâ farklılıklarını öne süren çağdaşı araştırmacıların aksine, bireysel farklılıkları değerlendirir. İnsan zekâsının işleyişindeki farklı şekilleri ortaya çıkarmanın ve anlamanın yollarını araştırır.

Guilford, sanırım 1950’lerin başında, yaratıcı insanların bir düşünceyi diğerlerinden daha fazla sergileme eğiliminde olduğunu fark eder ve burada hareketle “ıraksak düşünme” kavramını tartışmaya açar. Ona göre ıraksak düşünme, yaratıcılık ile bağdaşıktır; “yakınsak düşünme” eğilimindeki bireyler ise bilime daha yatkındır.

Yani diyor ki: Yakınsak düşünme, açıkça tanımlanmış bir soruya en iyi veya doğru cevabı elde etmeye yöneliktir. Hız, doğruluk, mantık ve benzerler becerileri sevmek; bilindik, tekrar eden teknikleri uygulamaya ve bilgi biriktirmeye odaklanmaktadır. Yakınsak düşünmenin en önemli yönlerinden biri, tek bir doğru cevaba yönlendirmesi ve belirsizliğe yer bırakmamasıdır. Yakınsak düşünme biçiminde bir cevap ya doğru ya da yanlıştır.

Iraksak düşünme ise mevcut bilgiden çoklu veya alternatif cevaplar üretmeyi arzular. Farklı yaklaşımlar denemeyi, uzak kavramlar arasındaki bağlantıları tanımayı, bilgileri alışılmadık formlara dönüştürmeyi tercih eder. Aynı soruya verilen cevaplar farklı düşünce yollarıyla gelebilir, kişiden kişiye büyük ölçüde değişebilir; ancak hepsi eşit değerdedir.

Ürkülen şu: Bir yapay zekâ, ne zaman bu iki düşünüş biçimini öğrenip bu iki düşünüş biçimine göre davranmaya başlarlarsa, işte o zaman, bırakalım ıraksak düşünüş ile imgesel düşünüş ağırlıklı şiir, öykü, roman yazmalarını, âşık olabilecek, ürettikleri emeğin sömürüsüne karşı çıkabilecek seviyeye çıkarlar; yani onlar giderek ‘biz’leşirler.

Peki, biz ne olacağız?

Acı, ama gerçek: Biz de ‘onlar’laşacağız muhtemelen.

Kısacası, hem onlar, hem de biz, kimilerinin “post-insan” dedikleri bir türe dönüşeceğiz!

Çok uzak değil, çeyrek yüzyıl sonra, bu yeni türün boy gösterdiği bir zaman dilimi yaşanacak.

Oysa bizim ne olacağımızdan çok, şunun sorulması gerekmez mi: Bir sanat eseri insan elinden çıkmamışsa taşıdığı estetik değerin karşılığı ne olabilir? Sanat eseri dediğimiz ‘şey’, insandan insana bir bağdır; makineden insana değil ki…

***

Üşenmedim, tüm teknolojik özrüme rağmen, GPT-4’ü denedim. Gördüm ki, bir sanat eseri üretemese de, öğrencilerin ödevlerini yazabilecek maharette. Hatta Google’dan daha iyi çeviri yaptığını bile söyleyebilirim.

Daha ilginci: Bu yapay zekâ çalmıyor da!

Çakma akademisyenlerin tezleri geliyor da aklıma, kıs kıs gülüyorum.

Öyle bir program ki, 5 dakikada ‘derleme’ yapmak mümkün. Master yahut doktora tezi yazmak bile mümkün.

Düşünmedim, desem yalan olur; belki de bu iyidir. O kadar çok kes-yapıştır yöntemiyle yazılıyor ki tezler…

Notre-Dame’ın Kamburu’nu okumuş muydunuz?

Victor Hugo, bu eserinde, başrahip Claude Frollo ile Kral XI. Louis’yi buluşturur. Buluşma, 1482 senesinde olur – o karanlık çağda. Frollo, efkârlı bakışlarını önündeki kitaptan kiliseye doğru kaydırır ve şöyle der: “Ceci tuera cela!” Yani, “Bu onu öldürecek!”

Bu buluşmayı takip eden bölümde ise “Le livre tuera l’edifice” (Kitap eseri öldürecek) deyiverir. Mimarlığın matbaanın icadından sonra tüm gücünü, hatta varlığını yitirdiğini savunur. Mimarlık, Rönesans ile ölmüştür; “taştan kitap” gitmiş, yerine “kâğıttan kitap” gelmiştir.

Matbaanın icadı sahiden mimariyi öldürmüştür, diyebilir miyiz; emin değilim. Ancak şairin elinden şiir alınırsa, tatsız tuzsuz bir dünyada ‘bulunmak” anlamlı olur mu, işte bunun yanıtını biliyorum.

***

ABD merkezli yapay zekâ araştırma şirketi OpenAI, GPT-4 ve ChatGPT’yi geliştirip genel kullanıma açınca kızılca kıyamet koptu. Nasıl ki bir şiirin tarifi var olan şairlerin çokluğu kadardır; bu da öyle… Seveni, takdir edeni, karalayanı, yerden yere çalanı; akla hayale gelebilecek her şey söylendi.

Son olarak içlerinde Elon Musk’ın da bulunduğu, teknoloji dünyasından bin 100 kişi, gelişmiş mevcut yapay zekâ uygulamalarının topluma ve insanlığa yönelik potansiyel risklerinden söz eden bir açık mektup yayınladılar. Mektupta, bu tür tasarımlar için güvenlik protokolleri geliştirilene, uygulanana ve bağımsız uzmanlarca denetlenene değin yapay zekâ çalışmalarının durdurulması yönünde bir çağrı yaptılar.

İlginç olan, Meta ve Alphabet’in sahip olduğu DeepMind mühendislerinin yanı sıra, Stability AI tepe yöneticisi Emad Mostaque ile Yoshua Bengio ve Stuart Russell gibi yapay zekâ uzmanlarının da bu mektuba imza koyması.

Dahası: Mektup, Future of Life Institute (Yaşamın Geleceği Enstitüsü) adlı bir sivil toplum kuruluşu tarafından yayınlandı. Avrupa Birliği’nin şeffaflık siciline göre, enstitü Musk Vakfı’nın yanı sıra Londra merkezli Founders Pledge ve Silikon Vadisi Toplum Vakfı tarafından finanse ediliyor.

Bu cephede işler biraz karışık gibi…

Bu hayli tantanalı mektuptan birkaç gün önce ise çeşitli küresel konularda yorum ve analiz yayınlayan Project Syndicate sitesinde iki dikkat çekici isim çıktı karşımıza ve bu konuyu enine boyuna, farklı yönlerden ele alıp uyarılarda bulundu.

Bu iki kişiden biri Slavoj Žižek’ti; diğeri ise Daron Acemoğlu.

Her ne kadar Amerikalı kültür eleştirmeni Gabriel Rockhill, Žižek’i, “kapitalizmin saray soytarısı” olarak tanımlasa da, kuşku götürmez bir gerçek ki, söyledikleri kaale alınan bir düşünür o. Biraz geveze sadece… Her konuda bir fikri var. Eğer bir kusursa bu…

Žižek, yazılımların insanlığa dair kültürün temel taşları olan ironi, tepkisellik ve çelişkilerin altını oyduğuna dikkat çeken “Artificial Idiocy” (Yapay Budalalık) adlı yazısında, şöyle diyor:

“Geleneksel öğrenci dönem ödevlerinin sonunu haber veren sohbet robotları (chatbots) hakkında çok şey söylendi, ancak daha yakından ilgilenilmesi gereken bir konu var: İnsanlar saldırgan, cinsiyetçi veya ırkçı ifadeler kullanarak kendilerinden ağzı bozuk fanteziler istediğinde chatbots buna nasıl yanıt vermeli? Yapay zekâlar sorulan sorulara aynı düzeyde yanıt verecek şekilde programlanmalı mı?

Bu tür bir düzenlemenin gerekli olduğuna karar verirsek, o zaman sansürün ne kadar ileriye gidebileceğini de belirlememiz gerekecek. Mesela bazı çevrelerin ‘saldırgan’ bulduğu siyasi duruşlar yasaklanacak mı? Örneğin Batı Şeria’daki Filistinlilerle dayanışma ifadeleri veya eski ABD Başkanı Jimmy Carter’ın bir kitabının başlığında ileri sürdüğü gibi İsrail’in ırkçı ve ayrımcı bir ülke olduğu iddiaları ne olacak? Bunlar ‘Antisemitist’ bulunarak engellenecek mi?

Sorun bununla da bitmiyor. Ressam ve yazar James Bridle’ın uyardığı üzere, yeni yapay zekâlar ‘mevcut kültürün toptan sahiplenilmesine dayanıyor’, ama bazı şeylerin ‘gerçekten akıllıca veya anlamlı oldukları inancı bilfiil tehlikelidir’. Bu nedenle yeni yapay zekânın sunduğu kabiliyetlere ve ürünlere karşı çok dikkatli olmalıyız.”

Farkında mısınız; vurgu yapay zekânın insan ironisi ve tepkiselliğinden yoksun olmasına… Bu ‘ironi’, şaka değil, alay değil, mizah değil.

İroni, biraz da tersine söylemek çünkü. İronide, söylenen ya da yapılan eylem, ne kadar ciddi bir görüntü arz etse de, o görüntünün altında, karşıt söylenceyi ya da eylemi, çelişki noktasına çekmeyi hedefler.

Unutmayalım ki Žižek bir filozof. İroni derken, hiç kuşkusuz Sokrates’in kapısını çalıyor.

Hatırlayalım; Sokrates’in diyalog yöntemi iki aşamadan oluşur. Birincisi ironidir. Sokrates, muhatabının kesin doğru olduğunu düşündüğü bilgileriyle ilgili çeşitli sorular sorarak bu bilgilerin gerçekte tartışmaya açık olduğunu kanıtlar. İkinci aşama ise maiotiktir. Sokrates bu aşamada yine ustaca sorduğu sorularla muhatabının zihninde doğuştan var olduğunu düşündüğü gizli bilgileri ortaya çıkarır. Yani, aslında insan hemen hemen her şeyi biliyordur, ama bildiğini bilmiyordur.

Žižek, buna vurgu yapıyor; yapay zekânın kendine yüklenen bilgiyi işlediğine…

Peşi sıra da bazı örnekler verip vurucu bir soru soruyor:

“Dil ve düşünce arasındaki ilişki olağanüstü derecede karmaşıktır. Stalin’in 1930’ların başındaki konuşmalarından birinden bir pasajda, ‘sadece düşüncelerinde bile kolektivizasyona karşı çıkanları acımasızca tespit etmeli ve bunlarla savaşmalıyız. Evet, aynen bunu kastediyorum, insanların düşünceleriyle bile savaşmalıyız’ ifadesini kullanmıştır. Konuşmanın bu bölümünün önceden hazırlanmadığı rahatlıkla söylenebilir. Stalin kendini konuşmanın cazibesine kaptırdıktan sonra ne söylediğinin hemen farkına varmış. Ancak geri adım atmak yerine abarttığı görüşüne bağlı kalmaya karar vermiş. Jacques Lacan’ın daha sonra ifade ettiği gibi, bu, beyanla sürpriz bir şekilde ortaya çıkan bir hakikat durumu. Louis Althusser de ödül ve sürpriz arasındaki etkileşimde benzer bir fenomen tanımlar. Aniden bir fikri kavrayan biri, ulaştığı sonuca şaşıracaktır. Yine soruyorum: Herhangi bir chatbots bunu yapabilir mi?”

***

Daron Acemoğlu önemli bir ekonomist. Bundandır ki, Project Syndicate için Simon Johnson ile birlikte kaleme aldığı makalede, ChatGPT gibi genel kullanıma açık yapay zekâ uygulamalarının ekonomik sonuçlarına değiniyor. Acemoğlu ve Johnson, yapay zekânın çalışanların işlerini ellerinden alabileceğini, tüketici alışkanlıkları ve deneyimlerini değiştirebileceğini ve sonuçta bundan tüm yatırımcıların zarar göreceğini ileri sürüyor:

“Microsoft’un OpenAI’nin, sanki bir insan yazmış gibi okunan metinler üretebilen doğal dilde bir yapay zekâ programı olan ChatGPT’den memnun olduğu bildiriliyor. Şirketler ve risk sermayesi fonları, finansmana kolay erişimin avantajlarından yararlanarak son on yılda yapay zekâ silahlanma yarışına milyarlarca dolar yatırım yaptı ve bu da artık daha geniş bir görev yelpazesinde insanların işlerini ellerinden alınmasında kullanılabilecek bir teknolojiyle sonuçlandı. Bu sadece işçiler için değil, tüketiciler ve hatta yatırımcılar için de bir felaket olabilir.”

Takdir edersiniz ki, bir ekonomist, ağzından çıkan sözleri tartarak söyler. Hele hele Acemoğlu gibileri… Eğer ‘felaket’ diyorsa, durup düşünmek gerek.

İşte felaket dediği şeylerden biri…

“İşçiler için sorun açık: Güçlü iletişim becerileri gerektiren daha az iş olacak ve dolayısıyla iyi maaşlı daha az pozisyon kalacak. Temizlikçiler, şoförler ve diğer bazı işçiler işlerine devam edecek, ancak diğer herkes korkmalı. Müşteri hizmetlerini düşünün. Şirketler, müşterilerle etkileşim kurmaları için insanları işe almak yerine, kızgın arayanları akıllı ve yatıştırıcı sözlerle yönlendirmek için ChatGPT gibi üretken yapay zekâlara giderek daha fazla bel bağlayacak. Başlangıç seviyesinde işlerin sayısının azalması, bir kariyere başlamak için daha az fırsat olacağı anlamına geliyor. Bu da dijital teknolojilerin daha önce başlattığı çalışanları işsiz bırakma eğilimin süreceğini gösteriyor.”

Acemoğlu’nun ikinci ‘felaket’ tanımı sorduğu şu sorunun arkasında: Özel sermaye kendi altını mı oyuyor?

Ve kendi sorusunu şöyle yanıtlıyor:

“Halka açık şirketlerin yatırımcıları da ChatGPT çağında kaybedecek. Bu şirketler, işlerini güçlerini daha üretken ve yeni görevleri yerine getirebilir hale getirmek için yeni teknolojilere yatırım yaparak ve çalışanların becerilerini geliştirmek için çok sayıda eğitim sağlayarak tüketicilere sundukları hizmetleri geliştirebilir. Ama bunu yapmıyorlar. Pek çok yönetici, nihayetinde kendi kendilerini baltalayarak, istihdamı kısıp ücretleri olabildiğince düşük tutmaya takıntılı biçimde bağlı bir strateji izliyor. Yöneticiler bu kesintileri takip ediyor, çünkü “akıllı çocuklar” (analistler, danışmanlar, finans profesörleri, diğer yöneticiler) bunu yapmaları gerektiğini söylüyor. Wall Street ise şirketlerin performansını çalışanları ellerinden geldiğince sıkıştıran şirketlere göre değerlendiriyor.”

Acemoğlu’nun üçüncü ‘felaket’i de şu sorunun ardında: Refah devleti ortadan mı kalkıyor?

“Yapay zekâ destekli dijital araçlar, hemşirelerin, öğretmenlerin ve müşteri hizmetleri temsilcilerinin hizmetlerini iyileştirmeye yardımcı olabilir. Algoritmaların tahmin gücü, insanların yerini almak yerine insanlara yardım etmek için kullanılabilir. Yapay zekâlar, insanların dikkate alacağı öneriler sunmak için kullanılıyorsa, bu tür önerileri akıllıca kullanma yeteneği, değerli bir insan becerisi olarak kabul edilecektir. Diğer yapay zekâ uygulamaları, çalışanların görevlere daha iyi atanmasını kolaylaştırabilir ve hatta tamamen yeni pazarlar yaratabilir.

Ne yazık ki, bu fırsatlar göz ardı ediliyor. Çünkü çoğu teknoloji lideri, insanların hâlihazırda gayet iyi yaptığı şeyleri yapabilen yazılımlar geliştirmek için yoğun bir şekilde harcamaya devam ediyor. Herkes, yalnızca anlık müşteri deneyimi için değil, aynı zamanda halkın harcama gücünün geleceği için de çok az endişe duyarak, işgücü maliyetlerini azaltmak için yapay zekâdan yararlanmaya odaklanıyor. Günümüzün kurumsal devleri, yeni teknolojileri kolektif geleceğimizi mahvedecek şekillerde kullanıyor.”

***

Fevkalade çiğ bir çağdayız. Her şeye ‘hemen ve şimdi’ ulaşmayı umuyoruz. Emek harcamadan gelecek sınırsız zenginliğin peşindeyiz. Yorulmadan, terlemeden mutlu ve başarılı olmak arzusuyla kıvranıyoruz. Kaygılarımız daha güzel bir kadın/erkek, daha güzel bir ev, daha güzel bir araba, hep daha güzel, daha güzel…

Bu ‘güzel’in yerini bazen ‘hız’ alıyor, bazen ‘yeni’… Daha hızlı, daha yeni gibi…

İhtiyacımız olmayan şeylerle dolup taşmış vaziyette hayatımız.

Elimizde kala kala insanı insan yapan üç beş şey kaldı. Görünüşe göre gelecek çeyrek yüzyılda onları da kaybedeceğiz.

Biraz tuhaf gelecek belki, ama içimden diyorum ki: Kim yazarsa yazsın, nasıl olsa okuyan yok. Umarım yapay zekâların böyle bir kusru olmaz; kendi yazdıklarını kendileri okur.