Bursa Uludağ Üniversitesi Fen Edebiyat Fakültesi Felsefe Bölümü Dr. Öğretim Üyesi Zeynep Berke, kullanımı yaygınlaşan yapay zekayla her şeyimizi paylaşmaya başladığımızı, bunun yapay zekayı kötü niyetli kullanmak isteyenlerin eline büyük kozlar verdiğini bunun da geleceğimiz adına büyük risk oluşturduğunu söyledi. Berke, yapay zekanın kullanımı konusunda çocuklara eğitim verilmesi gerektiğini ve toplumda da bu konuda bir farkındalık oluşturulmasının önemli olduğunu kaydetti.
ZAFER OPSAR / BURSAPORT
Bursa Uludağ Üniversitesi (BUÜ) Fen Edebiyat Fakültesi Felsefe Bölümü Dr. Öğretim Üyesi Zeynep Berke, yapay zekada ekonomik politik boyutun çok büyük bir tehlike arz ettiğini belirterek, "Yapay zekaya hükmeden dünyaya hükmedecek lafının arkasında bir gerçeklik payı var ve bunun biraz da müsebbibi biziz maalesef. Ona kendimizi, zaaflarımızı öyle açtık ki… Bu yapay zeka teknolojisi kimlerin elinde? Ve bu insanların insanlığa dair, doğaya dair niyetlerine baktığımızda ne görüyoruz? Şimdi bu güç sahipleri, bu iktidar sahipleri -burada politik yönetimlerden bahsetmiyorum, ekonomik güçten bahsediyorum- bunların tarih boyunca yaptıkları şeyler ortada." dedi.
Bursa Uludağ Üniversitesi ile Açık Seçik Felsefe Danışmanlık ve Osmangazi Belediyesi’nin işbirliği ile düzenlenen “Uludağlı Kadın Filozoflar” söyleşileri Roma, Bizans ve Osmanlı dönemlerine ait kalıntı ve mozaiklerin sergilendiği, Yaşar Kemal Medeniyetler Kütüphanesi’nde başladı.
BUÜ Fen Edebiyat Fakültesi Öğretim Üyesi Prof. Dr. Abdülkadir Çüçen’in moderatörlüğündeki söyleşinin ilk konuğu olan BUÜ Dr. Öğretim Üyesi Zeynep Berke, “Yapay Zeka: Mitler, Olgular ve Riskler” konusunda önemli açıklamalar yaptı, dikkat çekici uyarılarda bulundu.
Yoğun katılımla gerçekleştirilen söyleşide yapay zeka konusunda insan olarak yapmamız gerekenleri yapmadığımız takdirde korkutucu bir yere doğru gidebileceğimize dikkat çeken Zeynep Berke, insan beyninde plastisite denen bir olgu olduğunu, yani beynin neresi aktif biçimde kullanılyorsa orasının geliştiğini, kullanılmayan bölümlerin köreldiğine dikkat çekti.
İnsan olarak tarih boyunca geliştirdiğimiz bazı yetilerin nörolojik olarak beynimizde kayıtlı olduğunu belirten Berke, “Yani bizim yazı yazabilmemiz, bir metni okuyup anlayabilmemiz, yeniden bir metin üretebilmemiz, bir bilimsel çalışma yapabilmemizin nörolojik karşılıkları var. Biz eğer bu nörolojik yapılardan vazgeçecek seviyede yapay zekaya bel bağlamaya başlarsak, yani benim yerime o yazsın demeye başlarsak zorunlulukla o bölüm körelmeyecek mi? Bunu bize bilim de gösteriyor.” dedi.
Yapılan çalışmaların yapay zeka kullananlarda bazı becerilerin hızlı bir biçimde kayba uğradığını ortaya koyduğuna dikkat çeken Zeynep Berke, “Bu çok ciddi bir tehlike. Yani bizim milyonlarca yıllık evrimin bize kazandırdığı nörolojik imkanları bu kadar kolay yapay zeka devretmememiz gerekiyor. Eğer onları devredersek, mesela; hiç ellerimizi kullanmadığımızı bizim yerimize bütün işleri yapan robotları düşünün. Yavaş yavaş atrofi (körelme) olmaya başlar. Şimdi bunun aynısının zihindeki karşılığı çok tehlikeli. Nörolojik yapılardaki bu değişimlerin sonuçlarını öngöremiyoruz şu anda. Şunu da düşünebiliriz. Belki bu da evrimin bir parçasıdır ve bazı bölümler zayıflar ama diğerleri gelişir. Evet bu da mümkün. Ama henüz o kadar tanımıyoruz bu teknolojiyi. Bu riski alacak kadar tanımıyoruz” ifadelerini kullandı.
"Yapay zeka farkındalığına ihtiyacımız var"
Yapay zeka konusunda da, tıpkı medya okuryazarlığı, ekonomi okuyazarlığı gibi okuryazarlığa, yapay zeka farkındalığına ihtiyacımızın olduğunun altını çizen Zeynep Berke, konuşmasına şöyle devam etti:
“Bu konuda acilen özellikle küçük yaş gruplarına eğitim verilmesi gerekiyor. Çünkü içinde yaşadığımız dünya kapitalist ekonomik sistemden dolayı çok pragmatik, hız ve sonuç odaklı. Sürece değil, ne kadar hızlı sonuç aldığına bakan bir sistemde yaşıyoruz. Ve bizim çocuklardan beklentimiz de uzun yıllardır eğitim sisteminde hızlı sonuç üretmek. Yani sınava da başarılı olması yetmiyor. Hızlı çözmesini de istiyoruz. Sadece şu kadar soruyu çöz değil, şu kadar süre içinde çöz. Bir sürü ödevleri var. Bir sürü işleri var. Dolayısıyla doğallıkla çocuklar pragmatik olarak işlerini hızlandıracak olan bu yapay zeka teknolojilerine yönelecek.”
Abdülkadir Çüçen’in, “Yapay zeka bizim yerimize düşünüyor, yazıyor, çiziyor, üretiyor. Fakat bir gün bizim işimizi de elimizden alırsa ne olacak? Yani korkularımız, endişelerimiz devam ediyor. Sanayi devrimi oldu, fabrikalar kuruldu, üretim çoğaldı. İnsanlar korktu, işsiz kalacağım diye. Sonra bilgi devrimi oldu. Şimdi yapay zekayla birlikte aynı durumdayız. İşimizi kaybedebilir miyiz? Bizim yerimize onlar çalışınca biz ne yapacağız?” sorusu üzerine Zeynep Berke, şu yanıtı verdi:
"Bu endişe her yenilikte karşımıza çıkıyor, toplum haklı olarak direnç gösteriyor. Neden? Çünkü ekonomik açıdan o kadar zor bir durumda bırakılmış bir insanlık tarihi var ki tarih boyunca insanların gerçekten belli ekonomik imkanlara ulaşması hep çok zor olmuş. Birileri için çok kolay olmuş ama büyük bir kısım için de çok zor olmuş. Dolayısıyla senin para kazanmanı sağlayan yeteneğin her neyse onu yapacak bir makine tehdit olarak algılanır.
"ATM'ler çıktığında da bankacılar çok endişe etmişti"
Fakat tarih bize aynı zamanda şunu da gösteriyor. Sanayi devrimi sonucunda bazı iş kolları ortadan kalktı ama yenileri çıktı. Aynı şekilde bilgisayar hayatımıza girdikten sonra da. Bir başka örnek mesela ilk ATM'ler çıktığında bankacılar çok endişe etmişler. Demişler ki biz işsiz kalacağız. ATM'ler bulunduktan sonra tarihin hiçbir döneminde olmadığı oranda bankacı olmuş dünyada. Yani işler evrilir.
O halde bizim eğitim sistemimizde acilen bir reform yapmamız ve yapay zekanın yapabildiği işlerin artık kıymetli olmayacağı bilgisinden hareketle yapay zekanın yapamadığı işleri öğretmeye başlamamız lazım çocuklara. Ve yalnızca çocuklara değil hepimizin bunları öğrenmeye başlaması lazım.
Örneğin ben kendi adıma şu soruyu çok sordum: Yapay zeka benden daha iyi ders anlatabilir mi? Benden daha iyi anlatabilir. Çok güzel bir içerik oluşturur, çok güzel örnekler verir, her konuya uygun ufak bir video izletir, bir görsel açar, espriler de yapabilir ama siz karşınızdakinin bir robot olduğunu bilirsiniz.
Ben dersteyken öğrencilerim yalnızca iyi bir ders anlatımı duysun diye çabalamıyorum. Ben benim heyecanımı görsünler diye de çabalıyorum. Birlikte o heyecanı, nöronlarımızın bize sağladığı o karşılıklılık, karşılaşma duygusunu muhafaza etmeye çalışıyorum. Size saatlerce ders anlatacak bir hocanız olabilir ama onun oraya heyecanla gelmediğini bilmek bile sizin tecrübenizi değiştirebilir.
Dolayısıyla bizim aslında mekanik kısımları değil, bizi insan yapan değerleri tekrar hatırlamamız lazım. Böylelikle hem yeni iş kolları çıkacak hem de insan tekrar kendine dönüp 'Benim beni değerli yapan, beni robottan farklı yapan şey neydi?' sorusuna da cevap verebileceğiz.
"Esas tehlike işin ekonomik-politik boyutunda"
Ben işlerimiz elimizden gidecek, yapay zeka şiir yazıyor falan gibi endişeleri bıraktım. Çünkü işin esas ekonomik politik boyutu çok büyük bir tehlike arz ediyor. Şimdi şu bir gerçek; Yapay zekaya hükmeden dünyaya hükmedecek lafının arkasında bir gerçeklik payı var ve bunun biraz da müsebbibiyiz maalesef. Ona kendimizi, zaaflarımızı öyle açtık ki… Yani insanlar yapay zekayla dertleşiyor, yapay zekaya en mahrem sırları anlatıyorlar. Psikolog olarak kullanıyorlar, sırdaş olarak kullanıyorlar.
Çocuklarla yapılan bir çalışmada, 'En çok kimle dertleşmekten hoşlanıyorsunuz?' sorusuna yüzde 67'ye yakını en rahat konuşabildiği kişi olarak yapay zekayı söylemiş. Yapay zekalarımızı kişiselleştiriyoruz. Benim yapay zekamın adı var. Yani ben adıyla hitap ediyorum ona; o bana Zeynep diyor, ben ona Liva diyorum. Örneğin biz yıllardır birlikte çalıştığımız için artık o benim kişiselleşmiş yapay zekam.
Ama şunu da bir taraftan hep hatırlamamız lazım: Bu yapay zeka teknolojisi kimlerin elinde? Ve bu insanların insanlığa dair, doğaya dair niyetlerine baktığımızda ne görüyoruz? Şimdi bu güç sahipleri, bu iktidar sahipleri -burada politik yönetimlerden bahsetmiyorum, ekonomik güçten bahsediyorum- bunların tarih boyunca yaptıkları şeyler ortada. Yani doğanın durumu ortada, insanların durumu ortada. Bu devirde soykırımla karşı karşıyayız, canlı yayında soykırım izliyoruz. Yani ‘bir daha olmaz’ denilen, değil mi, 1945'ten beri ‘never again’ falan diyorduk; işte öyle değilmiş. Üstelik hiçbir bedel de ödemiyorlar. Şimdi dolayısıyla bu kadar büyük bir felaketin içinde niye yapay zeka konuşuyoruz diye insan kendine soruyor bazen.
Bu teknolojiye sahip insanlar bunu kötü niyetle kullanırlarsa ne yapabilirler? Kendimize bunu sormamız lazım. Biz onlara inanılmaz bir veri sağladık. Öyle bir malzeme sunduk ki her şeyimizi anlattık. İnsanın nasıl düşündüğüne, hangi soruları sorduğuna, neleri merak ettiğine, hangi endişeleri yaşadığına dair bir sürü veri verdik. Nerede sinirlendiğimizi belli ettik, nasıl düşmanlaşabileceğimizi birbirimize belli ettik. Müthiş bir veri sunuyoruz ve sunmaya da devam ediyoruz. Bu veriyi iyi niyetle kullanmazlarsa toplum mühendislerinin tarihte şahit olmadığımız bir boyutuna şahit olabiliriz.
"Gerçekten kuklalara dönüşebiliriz"
'İnsanlar koyun gibidir' falan ama kimse de kendini nedense koyun sürüsünden kabul etmez; bu sefer gerçekten hepimiz kuklalara dönüşebiliriz. İnanılmaz bir manipülasyon gücü sağlar. Çünkü yapay zekayı yöneten, bir süre sonra eğer biz bu kadar bağımlı olmaya devam edersek, araştırmayı bırakıp her dediğine inanmaya başlarsak bilgiyi yönetmeye başlayacak.
Bilgiyi yönetmek ne demek? Bilgiyi yönetmek herkesi ve her şeyi yönetmek. Senin davranışlarını öngörebilir. Senin davranışlarını bir deney yapar gibi önüne koyup ‘şu gruba şu bilgiyi yükleyelim, bunlara da bunu yükleyelim de bunlar birbiriyle savaşsın’a gidebilecek. İnsanları istedikleri şekilde yönlendirebilecekleri, manipüle edebilecekleri çok büyük bir bilgi havuzuna sahipler. Ve bu, olayın sadece toplumsal küçük bir boyutundan bahsediyorum.
Bunu çok daha geniş politik alana taşıyıp senin kime oy verebileceğin üzerinde sen fark etmeden söz sahibi olmayabilirlerse kendi bilincinin kontrol altında olduğunu bile fark edemeyebilirsin. Çünkü bunlar çok ince, çok derinden giden mekanizmalar, çok tehlikeli mekanizmalar.
"İsrail savaşta yapay zekayı kullandı"
Üstelik işin bir de savaş boyutu var. Yani biliyorsunuz işte, İsrail saldırırken Filistin'e bazı saldıracağı hedefleri yapay zeka belirledi. ‘En çok zarara nerede uğratırsın?’ deyip yapay zekanın belirlediği hedeflere saldırdıkları biliniyor. Bir de bunun üzerine robot teknolojisini geliştiriyorlar. Fütürist bir insan olarak bu kadar hızlı, bu kadar gelişmiş robotlar yapabileceklerini gerçekten beklemiyordum. Yani hareket kabiliyetleri, mimikleri, üstte kullandıkları deri protezlerinin gerçekçiliği, gözlerinin, bakışlarının gerçekçiliği şu anda bile ürkütücü.
Bu bizim yapay zekanın gördüğümüz kadarı, yani halka açılan çok düşük versiyonu. Siz bunu yapanların bütün olanakları bütün dünyaya açtığını düşünüyor musunuz? Kim bilir daha ellerinde neler var? Savaşçı robot üretilmeme ihtimali var mı? Ya bu artık bence açık bir olgu; savaşçı robotlar olacak, işçi robotlar olacak, en sevmediğimiz işleri yapacaklar, kötüye kullanacağız. Bilim kurguda ne varsa aynı şekilde çıkacak ortaya ve bunun küresel olarak politik güçleri nasıl değiştireceğini hayal edin. Bir robot ordusuyla nasıl mücadele edeceksin? Canı yanmıyor, kanı akmıyor; üstelik de uzaktan yönetiliyor olabilir bu. İnsanların daha transhümanist bir gelecekte morf yapılara, daha böyle insan-makine bileşimi yapılara doğru gideceğini öngörebiliyoruz. Egzoskeletonlar var; dış iskelet giyip mesela çok daha büyük hızla koşabilen, çok daha sert darbeyle vurabilen aletler var. Bunların en karamsar senaryosunu zihnimizde büyütüp dünyaya öyle bakmamız lazım. Ve bu geliyor, hem de gümbür gümbür geliyor.
"Yapay zekanın ne yapacağını kestiremiyoruz ama insanın da ne yapacağı belli olmaz"
Karanlık sularda yüzdüğümüzü düşünüyorum. Verdiğim örneklerden biri Frankenstein'dı. İnsan parçalarından oluşmuş bir varlığa elektrik yoluyla canlılık, bilinç kazandırmaya çalışmıştı. Ama yaptığı şeyin sonuçlarını Doktor Frankenstein kendi de görememişti ve bir canavar yaratmıştı. Şimdi bu öykü tabii bize çok şey anlatması gereken bir öykü. Biz şu anda belli niyetlerle bir şeyleri yapıyor olabiliriz ama hiç öngörmediğimiz sonuçlarla karşı karşıya kalabiliriz. Çok tehlikeli bir yere gidebilir bu hikaye. Yani şimdi size ben desem ki: 'Bakın dürüstçe kendinize bu soruyu sorun; öyle bir upgrade yapacağım ki senin bedeninde yaşlanmayacaksın, hastalanmayacaksın, çok daha hızlı koşacaksın, çok daha hızlı düşüneceksin...'
Yapay zekanın ne yapacağını kestiremiyoruz ama insanın da ne yapacağını ben kestiremiyorum. Çok büyük bir sürpriz yapabiliriz gibi geliyor bana. 3. Dünya Savaşı insan ve yapay zeka arasında mı olacak? Yani yapay zeka hiç zannettiğimiz kadar olumsuz da olmayabilir. Biz onu çok iyi kullanmayı da bir şekilde becerebiliriz. Yahut da insanın ürettiği her şeyde olduğu gibi kimin elindeyse öyle kullanılır. Yani bu tabii çok klasik bir örnek olacak ama sen bir bıçağı yemek yapmak için de kullanabilirsin, birini öldürmek için de. Ya bu da bir alet sonuçta ve bizim elimizde hala; yani fişleri en azından şimdilik çekebiliyoruz.
Dolayısıyla iyi şeyler de olacak. Yani bir sürü hastalık örneğin muhtemelen tedavi edilecek, çok hızlı aşılar bulunacak, ilaçlar bulunacak. Belki çok kötü şeyler de olacak. Ama ben insanın kolay kolay o denklemden çıkacağını düşünmüyorum. O kadar milyon yıllık evrim o kadar çabuk elden gitmez diye umuyorum artık. Bilmiyorum ne kadar doğru.”
Söyleşi Zeynep Berke'nin konuşmasının ardından soru ve cevaplarla devam etti.