Bursa Uludağ Üniversitesi Fen-Edebiyat Fakültesi Felsefe Bölümü Öğretim Üyesi Dr. Zeynep Berke, yapay zekâ kullanımının yaygınlaşmasıyla kişisel bilgilerimizi, düşüncelerimizi ve zaaflarımızı giderek daha fazla paylaştığımızı belirterek bunun teknolojiyi kötüye kullanmak isteyenler için büyük bir veri havuzu oluşturduğunu söyledi. Berke, yapay zekânın bireysel ve toplumsal risklerine dikkat çekerek özellikle çocuklara yönelik eğitim çalışmalarının ve toplumsal farkındalığın önemini vurguladı.
ZAFER OPSAR / BURSAPORT
Bursa Uludağ Üniversitesi (BUÜ) ile Açık Seçik Felsefe Danışmanlık ve Osmangazi Belediyesi iş birliğinde düzenlenen “Uludağlı Kadın Filozoflar” söyleşileri, Roma, Bizans ve Osmanlı dönemlerine ait kalıntı ve mozaiklerin sergilendiği Yaşar Kemal Medeniyetler Kütüphanesi’nde başladı.
BUÜ Fen-Edebiyat Fakültesi Öğretim Üyesi Prof. Dr. Abdülkadir Çüçen’in moderatörlüğünü yaptığı söyleşinin ilk konuğu olan Dr. Zeynep Berke, “Yapay Zekâ: Mitler, Olgular ve Riskler” başlıklı konuşmasında önemli değerlendirmelerde bulundu.
Yoğun katılımla gerçekleşen söyleşide Berke, yapay zekâ karşısında insan olarak üzerimize düşenleri yapmadığımız takdirde ciddi sorunlarla karşılaşabileceğimizi belirtti. İnsan beyninin plastisite özelliğine dikkat çeken Berke, beynin etkin biçimde kullanılan bölümlerinin geliştiğini, kullanılmayan işlevlerin ise zamanla zayıflayabildiğini ifade etti.
İnsanlığın tarih boyunca geliştirdiği bazı yetilerin beyinde nörolojik karşılıkları bulunduğunu belirten Berke, şöyle konuştu:
“Yazı yazabilmemizin, bir metni okuyup anlayabilmemizin, yeni bir metin üretebilmemizin ve bilimsel çalışma yapabilmemizin nörolojik karşılıkları var. Eğer bu nörolojik yapılara dayanan becerilerimizi kullanmaktan vazgeçecek ölçüde yapay zekâya bel bağlamaya başlarsak, her şeyi onun yapmasını istersek, bu becerilerimiz zamanla körelmez mi? Bilimsel bulgular da bu konuda bizi düşündürüyor.
Yapılan bazı çalışmalar, yapay zekâ kullanımının belirli bilişsel beceriler üzerindeki etkilerine işaret ediyor. Bu ciddi bir tehlike. Milyonlarca yıllık evrim sürecinde kazandığımız nörolojik imkânları bu kadar kolay yapay zekâya devretmemeliyiz. Sürekli elimizi kullanmadığımızı ve işlerimizi bizim yerimize yapan robotların bulunduğunu düşünün. Zamanla kaslarda atrofi, yani körelme meydana gelebilir.
Bunun zihinsel becerilerimizdeki karşılığı da son derece önemli. Nörolojik yapılardaki bu değişimlerin sonuçlarını henüz öngöremiyoruz. Belki bu da evrimin bir parçasıdır; bazı becerilerimiz zayıflarken başkaları gelişebilir. Bu ihtimal de var. Ancak bu teknolojiyi henüz yeterince tanımıyoruz. Dolayısıyla bu riski alacak kadar bilgi sahibi değiliz.”
“Yapay zekâ farkındalığına ihtiyacımız var”
Medya okuryazarlığı ve ekonomi okuryazarlığı gibi yapay zekâ okuryazarlığına da ihtiyaç duyduğumuzu vurgulayan Berke, özellikle küçük yaş gruplarına yönelik eğitimin önemine dikkat çekti:
“Bu konuda acilen, özellikle küçük yaş gruplarına eğitim verilmesi gerekiyor. Çünkü içinde yaşadığımız dünya, kapitalist ekonomik sistemin etkisiyle oldukça pragmatik; hız ve sonuç odaklı. Sürece değil, sonucun ne kadar hızlı elde edildiğine önem veren bir sistemde yaşıyoruz.
Eğitim sistemimizde de çocuklardan uzun yıllardır hızlı sonuç üretmeleri bekleniyor. Sınavda başarılı olmaları yetmiyor; soruları kısa sürede çözmeleri de isteniyor. Yalnızca belirli sayıda soruyu çözmeleri değil, bunu belirli bir süre içinde yapmaları bekleniyor. Üstelik çocukların çok sayıda ödevi ve sorumluluğu var. Dolayısıyla çocukların, işlerini hızlandıracak yapay zekâ teknolojilerine yönelmeleri doğal.”
Moderatör Prof. Dr. Abdülkadir Çüçen’in yapay zekânın insanların işlerini devralması ve gelecekte işsizliğe yol açması konusundaki sorusu üzerine Berke, teknolojik dönüşümlerin tarih boyunca benzer kaygılara neden olduğunu belirtti:
“Bu endişe her yeni teknolojide karşımıza çıkıyor ve toplumun buna direnç göstermesi anlaşılır bir durum. Çünkü insanlık tarihi boyunca ekonomik imkânlara ulaşmak birçok insan için son derece zor oldu. Bazıları bu imkânlara kolayca ulaşırken toplumun büyük bir bölümü bunun için mücadele etmek zorunda kaldı. Dolayısıyla para kazanmamızı sağlayan becerilerimizi bir makinenin yerine getirmesi, doğal olarak tehdit olarak algılanıyor.”
“ATM’ler ortaya çıktığında da bankacılar endişeliydi”
Berke, tarihin teknolojik dönüşümlerin yalnızca iş kayıplarına değil, yeni mesleklerin ortaya çıkmasına da yol açabildiğini gösterdiğini ifade ederek şöyle devam etti:
“Sanayi Devrimi sonucunda bazı iş kolları ortadan kalktı, ancak yenileri de ortaya çıktı. Bilgisayarların hayatımıza girmesiyle de benzer bir dönüşüm yaşandı. Örneğin ilk ATM’ler ortaya çıktığında bankacılar işlerini kaybedeceklerinden endişe ediyorlardı. Oysa teknolojiyle birlikte bankacılık sektörü de dönüştü ve bankacı sayısı hiç olmadığı kadar arttı. İşler ve meslekler zaman içinde değişebiliyor.
Bu nedenle eğitim sistemimizde acilen bir reform yapmalı, yapay zekânın yapabildiği işleri öğretmekle yetinmemeliyiz. Yapay zekânın yapamadığı, insanın kendine özgü becerilerini gerektiren alanlara da odaklanmalıyız. Üstelik bunu yalnızca çocuklar için değil, hepimiz için düşünmeliyiz.
Kendi adıma şu soruyu sık sık sordum: Yapay zekâ benden daha iyi ders anlatabilir mi? Evet, anlatabilir. Çok iyi içerikler oluşturabilir, etkili örnekler verebilir, konuya uygun videolar izletebilir, görseller kullanabilir, hatta espriler yapabilir. Ancak karşınızdakinin bir robot olduğunu bilirsiniz.
Ben ders anlatırken öğrencilerimin yalnızca iyi bir anlatım dinlemesini sağlamaya çalışmıyorum. Benim heyecanımı da görmelerini istiyorum. Birlikte o heyecanı, nöronlarımızın sağladığı karşılıklılığı ve karşılaşma duygusunu korumaya çalışıyorum. Size saatlerce ders anlatabilecek bir hocanız olabilir; ancak onun derse heyecan duymadan geldiğini bilmek bile yaşadığınız deneyimi değiştirebilir.
Dolayısıyla mekanik becerilerden ziyade bizi insan yapan değerleri yeniden hatırlamamız gerekiyor. Böylece hem yeni iş kolları ortaya çıkabilir hem de insan, kendisini yeniden düşünerek şu soruya cevap arayabilir: Beni değerli kılan, beni bir robottan farklılaştıran şey nedir?”
“Asıl tehlike ekonomik ve politik boyutta”
Yapay zekânın şiir yazması ya da insanların işlerini devralması konusundaki kaygıların ötesinde, teknolojinin ekonomik ve politik boyutunun daha büyük bir tehlike oluşturduğunu belirten Berke, sözlerini şöyle sürdürdü:
“İşlerimizin elimizden gideceği ya da yapay zekânın şiir yazdığı gibi konulara ilişkin endişelerin ötesinde, asıl tehlikenin ekonomik ve politik boyutta olduğunu düşünüyorum. ‘Yapay zekâya hükmeden dünyaya hükmedecek’ sözünün arkasında bir gerçeklik payı var. Üstelik bunun ortaya çıkmasında bizim de payımız var.
Kendimizi ve zaaflarımızı yapay zekâya öyle açtık ki insanlar onunla dertleşiyor, en mahrem sırlarını paylaşıyor; onu psikolog ya da sırdaş olarak kullanıyor. Çocuklarla yapılan bir çalışma, katılımcıların yaklaşık yüzde 60'ının yapay zekâyı dostu, arkadaşı gibi gördüğünü belirtiliyor.
Yapay zekâ sistemlerini kişiselleştiriyoruz. Benim de kullandığım yapay zekânın bir adı var. Ona adıyla hitap ediyorum; o bana Zeynep diyor, ben ona Liva diyorum. Yıllardır birlikte çalıştığımız için benim kullanımımda kişiselleşmiş bir yapay zekâya dönüştü.
Ancak bir yandan da şu soruyu sürekli hatırlamamız gerekiyor: Bu teknoloji kimlerin elinde? Bu gücü elinde bulunduranların insanlığa ve doğaya ilişkin niyetlerine baktığımızda ne görüyoruz? Burada politik yönetimlerden değil, ekonomik güç sahiplerinden söz ediyorum. Bu güç sahiplerinin tarih boyunca yaptıkları ortada. Doğanın ve insanların içinde bulunduğu durum ortada. Bugün soykırımla karşı karşıyayız; soykırımı canlı yayında izliyoruz.
1945’ten bu yana ‘Bir daha asla’ dedik. Ancak yaşananlar, bunun böyle olmadığını gösteriyor. Üstelik bu suçların sorumluları her zaman bedel ödemiyor. Bütün bu felaketlerin ortasında neden yapay zekâyı konuştuğumuzu insan bazen kendine soruyor.
Bu teknolojiye sahip olanlar onu kötü niyetle kullanırsa neler yapabilir? Kendimize bu soruyu sormamız gerekiyor. Onlara inanılmaz büyüklükte bir veri sağladık. Kendimiz hakkında öyle çok bilgi sunduk ki nasıl düşündüğümüzü, hangi soruları sorduğumuzu, neleri merak ettiğimizi ve hangi endişeleri taşıdığımızı ortaya koyduk. Neye öfkelendiğimizi, birbirimize karşı nasıl düşmanlaşabildiğimizi de gösterdik. Müthiş bir veri sunuyoruz ve sunmaya devam ediyoruz.
Bu veriler iyi niyetle kullanılmazsa tarihte benzerine tanık olmadığımız ölçekte bir toplum mühendisliğiyle karşı karşıya kalabiliriz."
“Gerçekten kuklalara dönüşebiliriz”
İnsanların kendilerini başkalarından daha bilinçli ve bağımsız gördüklerini, ancak yapay zekânın sunduğu manipülasyon imkânlarının bu algıyı değiştirebileceğini belirten Berke, şöyle konuştu:
“Yapay zekâ inanılmaz bir manipülasyon gücü sağlayabilir ve insanı bir nevi yönetilen, yönlendirilen kuklalara dönüştürebilir.
Yapay zekâyı yönetenler, biz bu teknolojiye bağımlı olmaya devam eder, araştırmayı bırakır ve onun söylediği her şeye inanmaya başlarsak, zamanla bilgiyi de yönetmeye başlayabilir.
Bilgiyi yönetmek ne demek? İnsanları ve olayları yönlendirme gücüne sahip olmak demek. Davranışlarımızı öngörebilirler. Bir deney yapar gibi farklı gruplara farklı bilgiler sunup insanların birbirleriyle çatışmalarını sağlayabilirler. İnsanları istedikleri biçimde yönlendirmelerine ve manipüle etmelerine imkân veren çok büyük bir bilgi havuzuna sahip olabilirler. Üstelik bunlar, meselenin toplumsal boyutunun yalnızca bir kısmı.
Bu güç çok daha geniş bir politik alana taşınabilir. Kimin oy vereceği üzerinde, kişi bunun farkına bile varmadan etkili olunabilir. Hatta insan, kendi bilincinin ve kararlarının yönlendirildiğini fark etmeyebilir. Çünkü bunlar son derece ince ve derinden işleyen mekanizmalar. Bu nedenle çok tehlikeliler.”
“İsrail savaşta yapay zekâ kullandı”
Yapay zekânın savaş alanındaki kullanımının da ciddi riskler taşıdığını vurgulayan Berke, sözlerini şöyle sürdürdü:
“İşin bir de savaş boyutu var. Bildiğiniz gibi İsrail’in Filistin’e yönelik saldırılarında bazı hedeflerin belirlenmesinde yapay zekâdan yararlanıldığı bildirildi. ‘En çok zararı nerede verebilirsin?’ yaklaşımıyla yapay zekânın belirlediği hedeflere saldırıldığına ilişkin haberler var. Bunun yanı sıra robot teknolojileri de geliştiriliyor.
Fütürist biri olarak bu kadar hızlı ve gelişmiş robotların yapılabileceğini gerçekten beklemiyordum. Hareket kabiliyetleri, mimikleri, üzerlerinde kullanılan yapay deri protezlerinin gerçekçiliği, gözleri ve bakışları bugün bile ürkütücü.
Üstelik bizim görebildiğimiz, yapay zekâ teknolojisinin kamuya sunulan kısmı. Bu teknolojileri geliştirenlerin bütün imkânlarını dünyaya açtıklarını düşünebilir miyiz? Ellerinde daha neler olduğunu kim bilebilir?
Savaşçı robotların üretilmemesi için bir neden var mı? Bence artık savaşçı robotların ortaya çıkacağı açık bir olasılık. İşçi robotlar da olacak; en sevmediğimiz işleri onlar yapacak. Ancak bu teknolojilerin kötüye kullanılması da mümkün. Bilim kurguda gördüğümüz senaryoların bir bölümünün gerçekleştiğini düşünün. Bunların küresel ölçekte politik güç dengelerini nasıl değiştirebileceğini hayal edin.
Bir robot ordusuyla nasıl mücadele edeceksiniz? Canları yanmıyor, kanları akmıyor; üstelik uzaktan yönetiliyor olabilirler.
İnsanların transhümanist bir gelecekte insan-makine bileşimlerine ve farklı beden yapılarına yönelmesi de mümkün görünüyor. Dış iskelet sistemleri var. Bu sistemler sayesinde insanlar çok daha hızlı koşabiliyor veya çok daha güçlü darbeler indirebiliyor. Bu gelişmelerin en karamsar senaryolarını da zihnimizde canlandırarak dünyaya bakmamız gerekiyor. Çünkü bu dönüşüm hızla yaklaşıyor.”
“Yapay zekânın ne yapacağını kestiremiyoruz ama insanın ne yapacağı da belli değil”
Berke, yapay zekânın geleceğine ilişkin değerlendirmelerde bulunurken Mary Shelley’nin Frankenstein romanına da atıfta bulundu:
“Karanlık sularda yüzdüğümüzü düşünüyorum. Verdiğim örneklerden biri Frankenstein’dı. Doktor Frankenstein, insan parçalarından oluşan bir varlığa elektrik yoluyla canlılık ve bilinç kazandırmaya çalışmıştı. Ancak ortaya çıkardığı şeyin sonuçlarını kendisi de öngörememiş ve bir canavar yaratmıştı.
Bu öykünün bize anlatması gereken çok şey var. Biz de bugün belirli niyetlerle bir şeyler yapıyor olabiliriz ama hiç öngörmediğimiz sonuçlarla karşılaşabiliriz. Bu hikâye çok tehlikeli bir yere varabilir.
Örneğin size şöyle bir teklif sunulduğunu düşünün: ‘Öyle bir geliştirme yapacağım ki bedeniniz yaşlanmayacak, hastalanmayacaksınız, çok daha hızlı koşacak ve çok daha hızlı düşüneceksiniz.’ Böyle bir teklifi kabul eder miydiniz? Bu soruyu kendimize dürüstçe sormamız gerekiyor.
Yapay zekânın ne yapacağını kestiremiyoruz ama insanın ne yapacağını da ben kestiremiyorum. İnsan çok büyük bir sürpriz yapabilir. Üçüncü Dünya Savaşı insanlarla yapay zekâ arasında mı yaşanacak? Yapay zekâ, düşündüğümüz kadar olumsuz sonuçlara da yol açmayabilir. Belki onu çok iyi kullanmayı başaracağız. Ancak insanın ürettiği diğer bütün araçlarda olduğu gibi, bu teknolojinin nasıl kullanılacağı da büyük ölçüde kimin elinde olduğuna bağlı.
Bu klasik bir örnek olacak ama bir bıçağı yemek hazırlamak için de birini öldürmek için de kullanabilirsiniz. Yapay zekâ da sonuçta bir araç ve hâlâ bizim elimizde. En azından şimdilik fişini çekebiliyoruz.
Dolayısıyla iyi sonuçlar da ortaya çıkacak. Muhtemelen pek çok hastalık tedavi edilecek, aşılar ve ilaçlar çok daha hızlı geliştirilecek. Çok kötü sonuçlarla da karşılaşabiliriz. Ancak insanın bu denklemden kolayca çıkacağını düşünmüyorum. Milyonlarca yıllık evrimle kazandığımız yetilerin ve insanlığın birikiminin bu kadar kısa sürede bütünüyle ortadan kalkmayacağını umuyorum. Ama bundan ne kadar emin olabiliriz, bilmiyorum.”
Söyleşi, Zeynep Berke’nin konuşmasının ardından katılımcıların sorularının yanıtlanmasıyla devam etti.