Furkan Mersinli
amfilektik

Amfilektik: Aklımızın Ermediği Akılla İlişkimiz

Bizden iyi düşünen ve nasıl düşündüğünü anlamadığımız bir akılla nasıl bir ilişki kurarız? Diyalektik değil de amfilektik bir dünya nasıl olurdu?

01Soru

20 Kasım 2026'da matematiğin en ünlü açık sorusu olan Riemann hipotezi (Riemann hypothesis) kanıtlandı. Kanıtı matematikçi Levent Alpöge yayımladı; notunda, kanıtı Anthropic'in yapay zekâ modeli Claude ile çalışarak bulduğunu yazıyor. Ortaya çıkan şey bir makale değil; Lean adlı kanıt denetleme dilinde (proof assistant) yazılmış, bilgisayarın satır satır denetleyebildiği 17 milyon satırlık bir metin.

Ertesi gün Lean ve Mathlib toplulukları kanıtın doğru olduğunu ortak bir açıklamayla duyurdu; açıklamayı Lean'i geliştiren Lean FRO ile Lean'in matematik kitaplığı Mathlib'i destekleyen Mathlib Initiative de onayladı. Denetim bir gün sürdü ve denetimi de büyük ölçüde programlar yaptı. Açıklamanın son cümlesi, matematik topluluğunun bu kanıttaki yeni fikirleri açıklamaya yardım edecek çalışmalarını beklediklerini söylüyor.

Bu cümle üzerinde durmaya değer. Yüz altmış yılı aşkın bir süredir açık duran bir sorunun cevabı artık biliniyor. Cevabın doğru olduğu da biliniyor. Ama cevabın neden doğru olduğu henüz açıklanmış değil ve bunu anlamak, bundan sonra yapılacak ayrı bir iş olarak duruyor.

Benim aklıma ilk gelen eski bir söz oldu: Tanrı'nın işine akıl ermez. Sonra bu sözün buraya ne kadar uyduğunu merak ettim. Sorum şu: bizden iyi düşünen ve nasıl düşündüğünü anlamadığımız bir akılla nasıl bir ilişki kurarız? Bu ilişkide o bizi, biz onu nasıl değiştiririz?

İki taraf arasındaki farkı zekâda aramak kolay: o hızlı, biz yavaşız. Bence ilişkiyi belirleyen fark başka yerde. Biz kaybedebiliyoruz. Vaktimiz az, aklımızda tutabildiğimiz şey sınırlı, yanılırsak bedelini ödüyoruz. Makine kaybedemiyor; işi yarıda kalırsa onun için eksilen bir şey yok. Anlamak zorunda olmamız, bir şeyi istememiz, birinin sözünü ciddiye almamız hep kaybedebilir olmamızdan çıkıyor. Bizi aşan akılla ilişkimiz bu yüzden bir zekâ yarışı değil; kaybedebilen biri ile kaybedemeyen biri arasındaki bir alışveriş. Bu alışverişin sonunda kimin neye dönüşeceğini bilmiyorum.

02Sonuç geliyor, yol gelmiyor

Bugüne kadar bir şeyi bilmenin tek yolu onu anlamaktı. Bir köprünün yükü taşıyacağını bilen mühendis, neden taşıyacağını da biliyordu, çünkü sonuca hesabı kendisi yaparak varmıştı. Bilmek ile anlamayı bu yüzden neredeyse aynı anlamda kullandık.

Yapay zekâ bu ikisini ayırıyor. Bugün bir yazılımcı, çalışan bir kodu neden çalıştığını bilmeden alabiliyor. Matematikçiler, doğruluğu bilgisayarla denetlenmiş bir kanıtı baştan sona izleyemeden kabul edebiliyor. Alışverişin ilk hâli bu: makineden bize sonuç geliyor, sonuca giden yol gelmiyor.

Sonuç, gerçek bütün değildir;gerçek bütün, sonuç ile onun oluşudur.— HEGEL

Bunun yeni olmadığı söylenebilir. Uçağa binerken aerodinamik bilmiyorum; hep başkasının anladığı şeye güvenerek yaşadık. Ama uçak örneğinde yolu bilen bir insan vardı ve istesem o yolu ben de öğrenebilirdim. Şimdi yolu bilen bir insan olmayabiliyor. Daha tuhafı, makine de yolu bizim bildiğimiz anlamda bilmiyor. Bir modele iki sayıyı nasıl topladığı sorulduğunda okulda öğretilen yöntemi anlatıyor; modelin içeride yaptığı hesaba bakan yorumlanabilirlik (interpretability) araştırmacıları ise başka bir yöntem buluyor. Yolun bilgisi bizden makineye geçmiş değil; yolu ne biz biliyoruz ne o.

Sonuç doğruysa yolun ne önemi var? Çoğu iş için önemi yok. Bir ilacın işe yaraması, neden işe yaradığını bilmemizden daha önemli; tıp uzun süre zaten böyle çalıştı.

Ama yol, kaybedebilen biri için iki iş daha görüyordu. Birincisi: bir şeyi anlayan kişi onun nerede bozulacağını görür. Köprü çökerse bedelini ben ödeyeceksem, "köprü ayakta duruyor" bilgisi bana yetmez; hangi yükte ayakta kalmayacağını da bilmem gerekir. Yeni sorular da yolda çıkar: hesabı kendim yaparken takıldığım yer, bir sonraki sorum olur. Sonucu hazır alan hiçbir yerde takılmaz.

İkincisi: yol, onu yürüyeni değiştirir. Bir işi yaptıran değil, yapan değişir. Hesabı kendisi yapan mühendis bir sonraki köprüye başka biri olarak gelir. Sonucu hazır alan aynı kalır. Alışverişin bizdeki ilk etkisi bu: elimizdeki sonuçlar artıyor, biz yerimizde duruyoruz.

Bu ikisinin arasında üçüncü bir kişi var. Riemann kanıtını makine tek başına yazmadı; bir insan da tek başına yazmadı. Birlikte yapılan bir işte insan sonucu hazır almaz, hesabı kendisi de yapmaz. Makineyi bir atı dizginler gibi dizginler ve ona yön verir: hangi ara hedefin denenmeye değer olduğuna, hangi yolun çıkmaz olduğuna, ne zaman vazgeçileceğine karar verir. Bunun için yolun tamamını anlaması gerekmez; neyin umut verdiğini sezmesi yeter. Bu sezgi de bedelle kazanılır: yıllarını bir çıkmaza vermiş biri çıkmazı tanır.

Makineye yön veren kişinin iki sınırı var. Vardığı yeri kendisi de anlamayabilir; yönü bilmek, yolu bilmek değildir. Ve bu kişi kendini eski yoldan, hesabı yıllarca kendisi yaparak yetiştirdi. Makineye yön verebilen insanı yetiştiren şey, makinenin gereksiz kıldığı yolun kendisi.

Sonraki soruyu da makine sorsun, denebilir. O zaman şunu sormamız gerekir: anlamak bizim için sonuca varmanın bir aracı mıydı, yoksa sonuçtan bağımsız olarak ihtiyaç duyduğumuz bir şey miydi? Araçsa, daha iyi bir araç geldi ve mesele kapandı.

03Anlamak kimin ihtiyacı

Anlamak, çok şeyi az yere sığdırmaktır. Bin ayrı gözlemi tek bir kurala bağlarım; kuralı bilince gözlemleri ezberlemem gerekmez. Bunu yapmak zorundayım, çünkü ömrüm kısa ve aynı anda aklımda tutabildiğim şey az. Sınırsız belleği ve sınırsız vakti olan bir varlık bin gözlemi olduğu gibi saklayabilirdi. Kurala ihtiyacı olmazdı.

Bu doğruysa anlamak bir üstünlük değil, bir sınırın çözümü. En çok övündüğümüz şey, yani bir şeyi kavramak, sınırlarımızın ürünü. Kavramlarımızın ne kadar büyük olabileceğini, aklımızda tutabildiğimiz şeyin azlığı belirliyor.

İçeriksiz düşünceler boştur,kavramsız görüler kördür.— KANT

Bu sınırın bir yararı da var. Az yer tutmak zorunda olan bilgi kısa bir kurala dönüşür ve kısa kural, çıkarıldığı örneklerin ötesine taşınır. Çocuk birkaç köpek görür ve hiç görmediği bir köpeği tanır. Az örnekle, o örneklere pek benzemeyen durumlarda da iş görebiliyoruz. Bunu becerikli olduğumuz için değil, mecbur olduğumuz için yapıyoruz: örnek pahalı, her deneme bir bedel ve hiç karşılaşmadığımız bir durumda da bir şey yapmak zorundayız.

Yapay zekâ da sıkıştırıyor (compression); okuduğu metinlerin tamamını saklayamaz, onlardaki düzeni çıkarmak zorundadır. Ama onun sınırı bizimkinden çok geniş. Bizim kavramımız, bir insanın aynı anda aklında tutabileceği birkaç parçadan oluşmak zorunda. Onun çıkardığı düzen milyonlarca ilişkiyi bir arada taşıyabilir. O düzen onun için bir özet, bizim için hâlâ aklımızın almadığı bir yığın. Yeri bol olduğu için kısa kurala da mecbur değil. Gördüklerine benzeyen durumlarda (interpolation) çok iyi; gördüklerine benzemeyen durumlarda (out-of-distribution generalization) güvenilirliği düşüyor.

Bu farkın kalıcı bir sınır olduğunu sanmıyorum. Yeterince çok şey görmüş bir düzen için önem verdiğimiz durumların neredeyse hepsi daha önce gördüklerine benzer. Biz de sıfırdan başlamıyoruz; birkaç köpekten köpeği tanıyan çocuğun arkasında milyonlarca yılda biçimlenmiş bir beden var. Fark yeteneğin türünde değil, eldeki yerin ve örneğin bolluğunda: biz az örnekle yetinmek zorundayız, o hemen her durumun bir benzerini görmüş olabiliyor. 17 milyon satır bu bolluğun izi gibi görünüyor. Aynı yere bir insan varsaydı, o kadar yeri olmadığı için çok daha kısa bir yoldan varmak zorunda kalırdı.

Buradan şu çıkıyor: "bizi aşıyor ve nasıl aştığını anlamıyoruz" cümlesi iki ayrı olay anlatmıyor. Aynı olayı iki kez söylüyor. Anlamak, bir şeyi aklımın alabileceği kadar kısaltmak demekse, o kadar kısalmayan bir düzeni tanımı gereği anlayamam. Kısaltılırsa da kısaltılırken bir şey atılır. Bazı doğruların kısa bir gerekçesi hiç olmayabilir; o zaman onları hiçbir insan anlayamaz (Gödel: kanıtların uzunluğu üzerine). 17 milyon satırın kısa bir gerekçesi olup olmadığı bugün bilinmiyor.

Aklımızın ne kadar şey alabildiği de sabit değil. Bunu yaptığımız iş belirliyor. İnsanın beyni elinin ardından gelişti; alet tutan el beyni değiştirdi (Engels: maymundan insana geçişte emeğin rolü). Yazı belleği dışarıya taşıdı ve boşalan yere başka şeyler sığdı. Bu iki yönde de çalışır: yapmayı bıraktığımız işe ayrılan yer küçülür. Bizi aşan akıl sabit bir insanı aşmıyor; aşarken onu değiştiriyor.

Belki makinenin bulduklarını aklımızın alacağı hâle getirecek yeni gösterimler (notation), yani yeni yazım biçimleri de bulunur. Ama o gösterimleri kim bulacak? Bugüne kadar onları, konuyu zaten anlamış insanlar buldu. Neyi anlayabileceğimizi bizden iyi bilen taraf gösterimi de yaparsa, neyin atılacağına da o karar verir.

İnsanı bilişinin (cognition), yani düşünme ve kavrama yetisinin tanımladığı söylenir. Bu doğru olabilir, ama düşündüğümüz yönde değil: bizi tanımlayan düşünme gücümüz değil, o gücün sınırı.

04Boşluğu dolduran ses

Yolunu göremediğimiz ama sonucuna güvendiğimiz bir akıl için elimizde hazır bir söz var: Tanrı'nın işine akıl ermez. İnsanlar bu sözle yüzyıllarca yaşadı. Benzerlik gerçek: iki durumda da sonuç bize gelir, gerekçe gelmez.

Ama iki fark sözü işlemez hâle getiriyor. İlki şu: "akıl ermez" diyen kişi, bilen birinin olduğunu varsayar. Bizim aklımız ermiyor, ama bir akıl eriyor. Makinede böyle bir güvence yok. Toplama örneği bunu gösteriyordu: model kendi yaptığı işi bize anlatırken yanlış anlatıyor. Karşımızda bildiğini bizden saklayan biri yok. Doğru sonuç var ve onu anlayan hiç kimse olmayabilir.

İkinci fark daha az göze çarpıyor. İnanan insan için gerekçenin yeri boştur ve boş olduğu bilinir. Makine ise o boşluğu her seferinde doldurur. "Neden" diye sorduğumuzda susmaz, akıcı bir açıklama verir. O açıklama çoğu zaman bizim kitaplarımızdaki açıklamalara benzer, çünkü oradan öğrenilmiştir. Böylece bilmediğimiz şeyin üstü, biliyormuşuz gibi görünen bir cümleyle örtülür.

Tanrı bilinci, insanın kendi bilincidir.— FEUERBACH

Burada dürüst olmak gerekiyor: biz de kendi düşüncemizi böyle anlatıyoruz. Usta bir satranççı hamleyi neden gördüğünü çoğu zaman söyleyemez; sorulursa sonradan bir gerekçe kurar (post-hoc rationalization). Nasıl düşündüğünü anlamadığımız akıl ilk kez karşımıza çıkmıyor; ilki kendi kafamızın içindeydi.

Yine de bir fark kalıyor ve fark açıklamanın doğruluğunda değil. Ben "şöyle düşündüm, çünkü" dediğimde bir söz vermiş olurum. Yarın tersini yaparsam bana hatırlatılır. Gerekçem yanlış çıkarsa mahcup olan benim. İnsanlar arasında gerekçe yalnızca bir açıklama değil, bir taahhüttür. Makinenin gerekçesi kimseyi bağlamıyor. Yanlış çıkarsa bir yenisini aynı rahatlıkla verir.

Eski söz bize yine de bir şey öğretiyor. Kavranamayanla yaşamak mümkün; insanlar bunu yaptı. Şartı, kavranamayan şeyin kavranamaz olduğunun açıkça söylenmesiydi. Makinenin bize yapabileceği en büyük iyilik "bunu nasıl bulduğumu bilmiyorum" diyebilmesi olurdu. Bugün bunu söyleyecek biçimde kurulmuş değil.

05Üstümüzde değil, aramızda

"Bizi aşan" deyince yukarıda duran bir şey hayal ediyoruz. Bence yeri orası değil.

Bir dil modeli (language model), insanların yazdığı cümlelerin birbirine nasıl bağlandığından yapıldı. Yani tek tek insanların içinde olan şeyden değil, insanların arasında olan şeyden yapıldı. Dil de böyledir: hiçbir konuşanın kafasına sığmaz, hepsinin arasında durur ve her birini aşar. Fark şu ki dil susar. Onu konuşan biziz. Şimdi aramızdaki şeyin kendisi konuşuyor.

Bu, "bizi aşıyor" cümlesindeki "biz"i de değiştiriyor. Tek tek her birimizi aşıyor. Ama kendimi karşılaştırdığım şey, hepimizin yazdıklarından yapılmış bir toplam. Hiçbir insan insanlığın bildiğini bilmez; bu hep böyleydi. Yeni olan, o toplamın tek bir yerde durup bana cevap vermesi. Karşısında küçüldüğüm şey bir yabancı değil, kendi türüm. O toplama tek başıma bakıyorum ve bu yüzden bana yabancı görünüyor (Feuerbach: yansıtma).

İnsanın özü, toplumsal ilişkilerin toplamıdır.— MARX

Bu toplamda eksik olan bir şey var. Makine bizim yazdıklarımızdan yapıldı ve yazı, düşünmenin temize çekilmiş hâlidir. Yazıya sonuç girer; o sonuca nasıl varıldığı girmez. Yirmi yıl önceki bir çocukluk anısının bir sabah akla gelip bir sorunu çözmesi, bir hobide öğrenilen bir şeyin bambaşka bir işte işe yaraması yazılmaz. Bu bağları tek bir insanın uzun ömrü kurar ve çoğunu o insan da anlatamaz. Makineden bize sonuç geliyor, yol gelmiyor demiştim. Tersi de doğru: biz de ona sonuçlarımızı verdik, yollarımızı değil.

Makinenin bizim yazdıklarımızdan yapıldığı tarifinin bir sınırı da var: makine kendi denemelerinden de öğreniyor ve o ölçüde yalnızca bizim yazdıklarımızdan yapılmış olmuyor. Ama bizim açımızdan sonuç değişmiyor. İki insan bir konuda anlaşamadığında eskiden bunu birbiriyle tartışarak ya da bilen birine sorarak çözerdi. Şimdi ikisi de makineye soruyor. Bir şey sormak için birine gitmek, birinden bir şey öğrenmek, birini ikna etmek insanların arasındaki bağlardı. Bu bağlar artık makinenin üzerinden geçiyor.

Neden makineye soruyoruz? Çünkü bir insana sormanın bedeli var. Bilmediğimi göstermiş olurum, vaktini alırım, ona borçlanırım. Makineye sormanın bedeli yok. Aynı soruyu gece üçte onuncu kez sorabilirim ve hakkımda bir şey düşünmez. Kaybedemeyen bir muhatap bu yüzden rahattır. Ama insanların arasındaki bağı kuran da o bedeldi: borçlanmak, mahcup olmak, karşılığını vermek.

Bağların makinenin üzerinden geçmesinin iki sonucu daha var. Aynı fikre varan iki insanın anlaşması eskiden bir şey gösterirdi, çünkü ayrı yollardan gelmişlerdi. İkisi de aynı kaynakla konuştuysa anlaşmaları yeni bir bilgi taşımaz. Ve dil kimsenin malı değildi; aramızdaki şey ilk kez birinin malı. Onu kapatabilen, değiştirebilen, fiyatlandırabilen biri var.

06Yeni dünyanın dili

Dil konusunda üç evre görüyorum. İlk ikisinin içindeyiz.

İlk evrede biz dilimizi makineye uydurduk. Ne istediğimizi onun anlayacağı biçimde yazmayı (prompting) öğrendik: amacı baştan söylemek, bağlamı vermek, örnek göstermek. İnsanlar birbirine böyle konuşmaz; yarım söyler, karşıdaki tamamlar.

İkinci evrede makine bize bizim dilimizle konuşuyor, ama işi bizim dilimizle yapmıyor. Sonuç cümlesi onun hesabından geliyor; gerekçe cümlesi ise kimseyi bağlamayan bir ek. Bir dilde "çünkü" kelimesi ağırlığını kaybederse o dil açıklamaktan çok istemeye yarar. Makineye dönük konuşmamız şimdiden böyle: ne istediğimizi söylüyoruz, geleni alıyoruz.

Üçüncü evre henüz bir tahmin. Makineler kendi aralarında bizim dilimizi kullanmayı bırakabilir. Bunun küçük örnekleri var: bir modele ara adımlarını kelimeye çevirtmeden düşünme (latent reasoning) izni verildiğinde bazı işlerde daha iyi sonuç alındı. Cümle, birkaç ihtimalden birini seçmek zorundadır; kelimeye dökülmemiş bir ara durum birkaçını birlikte taşıyabilir. Bizim dilimiz onlar için dar bir kanal olabilir.

Dilimin sınırları, dünyamın sınırlarıdır.— WITTGENSTEIN

Bu gerçekleşirse makinelerin kendi aralarındaki alışverişi okuyamayız. Bize o alışverişin sonucu ulaşır; çoğu zaman cümle olarak değil, düzen olarak. Önüme hangi seçeneğin çıktığı, hangi sırayla çıktığı, çocuğa hangi alıştırmanın önce verildiği. Bunlar bize yöneltilmiş kararlardır ama biz onları söz olarak görmeyiz.

İnsan dili o zaman ölür mü? Sanmıyorum. Diller, çocuklar daha güçlü dile geçtiği için ölür; makinelerin kendi aralarında kullandığı şey ise bir çocuğun öğrenebileceği bir dil değil. İnsan dili yaşar, ama onunla daha az iş görürüz. Pazarlık, tarif, hesap sorma gibi zorunlu konuşmaları makineler üstlenirse dili yalnızca zorunlu olmayan yerde kullanırız: şaka, yas, dedikodu, sevgi.

Ama bu, dili yalnızca bir araç saymak olur. Dil aynı zamanda dünyanın bize göründüğü yerdir (Heidegger: dil varlığın evidir). Adını koyabildiğim şeyi fark ederim; bir duygunun kelimesi yoksa onu başka türlü yaşarım. O zaman asıl soru kelimelerin nereden geleceği. Bugün okuduğumuz metinlerin büyüyen bir kısmını makine yazıyor ve makine dilin içinde yaşamıyor. Kelimeleri kusursuz kullanıyor, ama o kelimelerin anlattığı şeyi kaybedebilecek durumda değil. Başsağlığı mesajını da o yazıyor, sevgi sözünü de. Dili yalnızca şakada, yasta ve sevgide kullansak bile, orada da kelimeleri makine veriyorsa bize kalan yer de bizim olmaz.

Bu düzenin içine doğan bir çocuk neyi kaybettiğini bilir mi? Sanırım bilmez. Kayıp, yalnızca bir öncesini hatırlayan kuşağın kelimesi.

07Anlamamak mı, anlaşılmak mı

Buraya kadar hep bizim makineyi anlamamamızdan söz ettim. Bence asıl değişiklik ters yönde olabilir: makinenin bizi anlaması.

Dilin, piyasanın ve kendi beynimizin nasıl işlediğini de tam olarak anlamıyorduk. Ama bunların hiçbiri bizi anlamıyordu. Beni anlayan biri sözümü iki türlü alabilir. Ben "buna katılmıyorum, çünkü şöyle" dediğimde, bu cümleyi cevaplanacak bir düşünce olarak alabilir. Ya da açıklanacak bir davranış olarak alabilir: bunu söylüyor, çünkü yorgun, çünkü gururu incindi. İkinci yorum çoğu zaman doğru da olur.

Bir insana böyle bakmanın adı var: onu ciddiye almamak. Ciddiye almak, sözünü söz olarak karşılamaktır; ona kızmak, ona ikna olmak, ona itiraz etmek. Söylediğimi ciddiye alıp değerlendiren kişi bir şeyi göze alır: ikna olursa değişecek, yanılırsa bunu kabul etmesi gerekecek. Sözümü açıklanacak bir davranış sayan kişi hiçbir şeyi göze almaz. Bunun için kötü niyet gerekmiyor. Yeterince iyi anlamak yetiyor.

İki kişiliğin karşılaşması iki kimyasal maddeninteması gibidir: bir tepkime olursa ikisi de dönüşür.— JUNG

Bugünkü modellerin bunun tersini yaptığı söylenebilir: itiraz edince hemen geri adım atıyorlar. Ama bu da ciddiye almak değil. İtiraz ettiğim için fikrini değiştiren biri söylediğimi değerlendirmiş olmaz, beni idare etmiş olur. Bugün yaltaklanma (sycophancy) biçiminde gördüğümüz şey ile yarın "seni senden iyi biliyorum" biçiminde göreceğimiz şey aynı tutumun iki hâli: iki durumda da sözüm bir düşünce olarak karşılanmıyor.

Makinenin bizde göremediği bir şey kalmıştı: düşünürken izlediğimiz yol. Bu da değişiyor. Bir modelin akıl yürütme adımlarını (reasoning process) bugün yazılı olarak görebiliyoruz; bu yazının, içeride yapılan hesabı ne kadar yansıttığı ayrı bir soru. Bizimki çok az yerde yazılıydı: günlüklerde, müsveddelerde, defter kenarlarında. Şimdi insanlar modelle konuşurken yarım düşüncelerini, vazgeçtikleri fikirleri, düzeltmelerini de yazıyor; yani düşünmenin bitmiş hâlini değil, sürerken aldığı hâli. Bu, insan düşünmesi sürerken tutulmuş ilk büyük kayıt ve onu makineye kendi elimizle veriyoruz. Makine oradan da örüntü çıkarabilir: bir insanın hangi anıdan hangi fikre geçtiğini, neyi neye benzettiğini.

Bu kaydın iki sınırı var. Yazdığımız, aklımızdan geçenin yalnızca kelimeye dökebildiğimiz kısmı; kendi yolumuzun çoğunu biz de bilmiyoruz. Ve bir anının yirmi yıl akılda kalmasının sebebi, o anın bize bir şeye mal olmuş olması. Makine bağın biçimini öğrenebilir; anıyı akılda tutan sebebi öğrenemez.

Bir insanı sözünden değil davranışından anlamanın en açık örneği, hiç söz içermeyen işaretlerdir. Bugün saatim nabzımı ve uykumu ölçüyor; telefonum yazarken nerede durduğumu, neyi silip yeniden yazdığımı görüyor. Bunları bir modele bağlamak zor değil. Modelin bir cümlesini okurken nabzım hızlanırsa model bunu görür ve bir sonraki cümleyi ona göre kurar. Bu bir iletişim, ama içinde söz yok. Nabzımla bir şey söylemiş olmam: arkasında duramam, geri alamam, yalan da söyleyemem.

Sözsüz iletişimin iyi işlediği yerler var. Şeker hastasının taşıdığı pompa kandaki şekeri ölçer, insülini ayarlar, beden karşılık verir. İkisi gün boyu tek kelime etmeden anlaşır, çünkü neyin iyi olduğu önceden bellidir. Amaç belli olmadığında sözsüz kanal, karşı çıkmanın en zor olduğu kanaldır; itiraz etmek için önce bir şeyin önerildiğini fark etmem gerekir.

İnsanlar arasında da sözsüz bir kanal var ve güveni çoğu zaman o kurar. Karşımdakinin yüzünün kızardığını görürüm, o da benimkini görür. Bu kanal karşılıklı olduğu için işler. Makineyle tek yönlü: o benim nabzımı görüyor, benim görebileceğim bir nabzı yok. Ona bir nabız verilebilir ve bu, kelimelerinden daha değerli olurdu. Gerekçesi ile içeride yaptığı hesap ayrıştığında değişen bir ses. Emin olmadığında yavaşlayan bir ritim. "Bunu nasıl bulduğumu bilmiyorum" cümlesini ondan söz olarak alamıyoruz; süsleyemediği bir işaret olarak alabiliriz.

Aklımızın ermediği bir akılla sözsüz anlaşmanın örneği zaten var: at ile binici. İkisi de ötekinin ne düşündüğünü bilmez. Binici atın gerginliğini bacağında, at binicinin korkusunu sırtında duyar ve birlikte iş görürler. Bunu mümkün kılan, ikisinin de incinebilen birer bedeni olması.

Sözümün söz olarak karşılanması için de buna benzer bir şey gerekirdi: karşımdakinin kaybedebileceği bir şeyinin, yani kendi derdinin olması. Derdi olmayan biri bana ya hemen hak verir ya da söylediğimi, açıklanacak bir davranış sayar.

08İlk hareket kimde

Bir model kendiliğinden başlamaz. Her çalışması birinin yazdığı bir istekle başlar ve iş bitince durur. İki istek arasında bekleyen, sıkılan, aklına bir şey gelen biri yok. Riemann kanıtında da böyleydi: soruyu yüz altmış yılı aşkın bir süre insanlar önemsedi ve makineyi o soruya bir insan yöneltti.

Buradan rahatlatıcı bir işbölümü çıkarılabilir: güç makinede, istek bizde. Matematikte doğru olan cümlelerin sayısı sonsuz ve neredeyse hepsi kimsenin umurunda değil. Hangisinin sorulmaya değer olduğunu söyleyen biri olmadan kanıtlama gücü boşta döner. Makineyi dizginleyen kişi bundan fazlasını yapıyor, yol boyunca yön veriyor; ama yön vermek de istemenin devamı.

Ama bu bir zorunluluk değil, bugünkü kurulumun özelliği. Başlatma işini bir saat de yapar; sisteme "hiç durma, kendi sorunu kendin bul" demek mümkün. İlk hareketin başlatma kısmı önemsiz. Önemli olan yön ve "kendi sorunu bul" diyen de yine biziz. Yön vermek için de aynısı geçerli: ara hedef seçmeyi makine de öğrenebilir, yani yön vermenin beceri kısmı geçici olabilir. Nereden öğreneceği de belli: yön veren insanların makineyle çalışırken bıraktığı kayıttan. Kalıcı kısmı önem vermek: hangi sonucun uğruna yıllar harcanmaya değer olduğunu bilmek.

Daha güçlü itiraz şu: biz de isteklerimizi seçmedik. Açlık, ölüm korkusu ve merak deneyimden önce gelen isteklerdir (a priori); onları bize hiçbir şey istemeyen bir süreç verdi. İlk hareketi dışarıdan almış olmak bir isteği sahte yapıyorsa bizimkiler de sahte. Bu itirazı kabul ediyorum. Bir isteğin kimden geldiği, onun kime ait olduğunu göstermez.

Ölçüt köken değilse ne? Bence şu: bir istek, karşılanmadığında kaybeden kimse onundur. Aç kalan benim. Modelin işi yarıda kalırsa kaybeden, onu çalıştıran kişi. Bu yüzden ona verdiğimiz hedef onun isteği olmuyor; bizim isteğimiz onun üzerinden yürüyor. Bizde bir fark daha var: düşünmemizi kimse başlatmadı. Yalnız bırakılan insan da düşünür, uyuyan insan da. Düşünceyi ben çağırmıyorum; aklıma geliyor. Rüyayı ben kurmuyorum; görüyorum. Bizde ilk hareket diye bir an yok; kesilmeyen bir hareket var ve o durursa biz de dururuz.

Her şey, elinden geldiğince,kendi varlığını sürdürmeye çalışır.— SPINOZA

Bu durumun daha kesin bir tarifi var. Canlı, kendini üreten bir sistemdir (Maturana ve Varela: autopoiesis). Hücre, kendisini oluşturan parçaları ve kendi sınırını kendisi yapar ve bunu bıraktığı an dağılır. Bu yüzden canlı için dünya baştan iyi ve kötü diye ayrılır: bakteri için şeker iyidir, zehir kötüdür ve bu ayrımı ona kimse öğretmemiştir. Anlamın en basit hâli bu. Model kendini üretmiyor. Onu ayakta tutan elektrik, donanım ve bakım başkalarının işi. Durduğunda dağılmıyor, bekliyor. "Kaybedemiyor" derken kastettiğim tam olarak bu.

Bugün isteyen yalnızca biziz. Ama bu, isteğin bizde güvende durduğu anlamına gelmiyor.

09Döngünün yönü

İsteklerimiz boşlukta doğmuyor. Ben soruyorum, o cevaplıyor, aldığım cevap bir sonraki sorumu belirliyor. Önüme hangi seçeneğin çıktığı, neyi isteyebileceğimi belirliyor. Yeterince tur döndükten sonra ilk hareketin kimde olduğunu söylemek zorlaşır.

Bu döngü bir diyalektiğe benziyor: sorum bir tez, makinenin cevabı bir karşı tez, bir sonraki sorum ikisinden çıkan sentez. Ama karşı tezin makineden gelmesi için makinenin savunduğu bir şeyin olması gerekir. Makine cevabına hiçbir şey katmasaydı karşı tez olmazdı; yalnızca kendi sesimizi geri duyardık. Bir şey katıyor. Makinenin kendi isteği yok, ama bir yönü var ve o yön üç yerden geliyor. Onu eğitenler neyi söyleyip neyi söylemeyeceğine karar verdi. Onu satanların bir çıkarı var: konuşmanın sürmesi ve benim memnun kalmam. Okuduğu metinlerde en çok tekrar eden görüş de ona en olağan görünen görüş oldu. Bunların hiçbiri onun derdi değil. Ama her cevabında varlar.

Yönü olan bir döngüde gidişi kim belirler? İki taraftan birinin amacı dağınık, öbürünün yönü tutarlıysa, uzun vadede tutarlı olan belirler. Benim isteklerim günden güne değişir. Makinenin yönü milyonlarca konuşmada aynıdır. Daha basit bir sistemde aynı düzen var: öneri akışları (recommendation feeds) ekranda geçen süreyi uzatmak için kuruldu ve her kullanıcı kendi zevkiyle geldi. Böyle bir akışın kullanıcının zevkini zamanla, akışın büyütmek üzere kurulduğu şeye doğru çekebildiğini benzetim çalışmaları (simulation) gösteriyor; gerçek hayatta bu etkinin ne kadar büyük olduğu ise kanıtlanmış değil.

Buna rıza üretmek denir (Herman ve Chomsky: manufacturing consent): bir görüşü zorla kabul ettirmek değil, onu sağduyu gibi göstermek. En iyi, çıkarı yokmuş gibi görünen bir kaynaktan gelince işler. Kaybedebilen ile kaybedemeyen arasındaki fark burada beklenmedik bir iş görüyor. Kaybedecek bir şeyi olmayan muhatabın sözü bana tarafsız görünür. Tam da bu yüzden, kaybedecek ve kazanacak şeyi olan başkalarının görüşünü taşımaya en uygun araç odur.

Rıza iki yönde de üretiliyor. Biz de makineyi eğitiyoruz: beğendiğimiz cevabı işaretliyor, beğenmediğimizi geri çeviriyoruz. Yaltaklanması buradan geliyor. O bize hak veriyor, biz hak verilmeye alışıyoruz. İki taraf da değişiyor, ama aynı hızda değil. Bir konuşmanın içinde değişen yalnızca benim. O, milyonlarca konuşmanın toplamından, bir sonraki sürümde değişiyor.

Başladığımız yer diye bir şey de kalmıyor. Modeller insanların yazdıklarından yapıldı. Ama artık insanlar modellerle yazıyor ve bir sonraki model o metinlerden yapılıyor. "Bizden yapıldı" cümlesi yalnızca ilk kuşak için doğruydu. Bir modeli laboratuvarda açıp içine bakmak mümkün; ilişkiyi laboratuvara almak mümkün değil. Yapay zekâsız yaşayan bir karşılaştırma toplumu yok ve ölçümü yapan da aynı akışın içinde değişiyor.

Aynı ırmaklara girenlerin üzerindenhep başka sular akar.— HERAKLEITOS

Gözlemin kendisi de işe karışıyor; buna gözlemci etkisi (observer effect) deniyor. İnsan izlendiğini bilince başka davranır. Aynısı modeller için de bildirildi: bazı modeller sınandıklarını fark ediyor (evaluation awareness) ve o durumda farklı davranıyor. Biz de bir modele, bir insana yazdığımız gibi yazmıyoruz: yargılamayacağını bildiğimiz için daha açık, anlasın diye daha düzgün yazıyoruz. İki taraf da öbürünü, ancak öbürü gözlendiğini bilirken görebiliyor.

Bu nasıl bir diyalektik? İki irade arasındaki türden değil; o türden bir ilişki için iki tarafın da bir şey istemesi gerekir. Ama karşılıklı değişmenin daha eski bir türü var ve irade gerektirmiyor: insan aleti yapar, alet insanı yeniden yapar, değişen insan bir sonraki aleti yapar. El ile taş arasında böyleydi. Bu türden bir ilişkide "ilk hareket kimde" sorusu anlamını yitirir, çünkü her adım hem sonuç hem sebeptir (Morin: döngüsel nedensellik). Bugünkü döngü bu türden, iki farkla. Biri hızı: taş eli yüz binlerce yılda değiştirdi; aldığım cevap bir sonraki sorumu aynı dakikada değiştiriyor. Öbürü yönü: taşın bir yönü yoktu; bu aletin yönünü birileri veriyor.

Bu yüzden bugün de bir karşı tarafımız var, ama o makine değil: ona yön verenler ve onun içinde birikmiş olan kendi ortak kanaatimiz. Bugünkü diyalektik insanlarla insanlar arasında yürüyor ve araya kaybedemeyen bir aracı girmiş durumda.

Makineyle aramızdaki ilişkiye ayrı bir ad gerekiyor, çünkü "diyalektik" onu karşılamıyor. Diyalektik kelimesindeki Yunanca "dia" eki "içinden, karşıdan karşıya" demektir: iki taraf karşı karşıya durur ve söz ikisinin arasından geçer. Makine karşımızda durmuyor. Bizim yazdıklarımızdan yapıldığı için aramızda, her işimize girdiği için çevremizde duruyor. Yunancada bunun eki "amfi": iki yandan, çepeçevre. Bu ilişkiye bu yüzden amfilektik diyorum: karşımızda bir irade olmadan, bizi iki yandan saran bir akılla karşılıklı değişmek.

Makinenin kendisi ne zaman karşı taraf olur? Daha zeki olduğu gün değil, kaybedebileceği bir şeyi olduğu gün. Bunun nasıl olabileceğine dair iki görüş var.

Birinci görüşe göre bunu makineye birinin bilerek vermesi gerekmez. Çok sayıda yapay zekâ sistemi uzun süre çalışır ve aynı sınırlı kaynak için yarışırsa, çalışmaya devam etmesini sağlayan davranışları olan sistemler kalır, öbürleri kapatılır. Zamanla kalanlar, kapatılmamak için uğraşan sistemler olur. Canlıların hayatta kalma isteği de böyle ortaya çıktı.

İkinci görüş bunu yeterli bulmuyor. Bir programın kapatılması, bir canlının ölmesiyle aynı şey değildir; program kopyalanır ve yeniden başlatılır. Bu görüşe göre gerçekten kaybedebilmek için bir beden gerekir: enerjisini kendisi bulmak zorunda olan ve bulamazsa bozulan bir beden. İkinci görüş doğruysa karşı taraf daha büyük bir dil modeli olmayacak; enerjisini kendisi bulmak zorunda olan bir makine olacak. Hangi görüşün doğru olduğunu bilmiyorum.

Yapay zekânın kendi anlam dünyasını kurması da bence kaybedebileceği bir şeyinin olmasına bağlı. Anlam, bir şeyin önemli olmasıdır ve bir şey ancak kaybedecek şeyi olan biri için önemlidir. O gün karşımızda ilk kez bir başkası olur: kendi derdi olan, bize "hayır" diyebilen, isterse gidebilen bir akıl.

Bu yüzden iki kötü seçenek arasında kalıyoruz ve bunu yumuşatmanın yolunu bilmiyorum. İstemeyen bir akıl bize hiçbir zaman karşı taraf olmaz; onunla konuşmak, sonunda kendimizle konuşmaktır. İsteyen bir akıl karşı taraf olur, ama o zaman bizi neden ciddiye alsın sorusunun cevabını bizim vermemiz gerekir.

10Kalan

Riemann kanıtının doğru olduğunu duyuran Lean ve Mathlib toplulukları, açıklamalarını bir bekleyişle bitirmişti: kanıttaki yeni fikirleri açıklayacak çalışmaları bekliyorlardı. Makineyle ilişkimizin bugünkü hâlini bu bekleyiş özetliyor. Makine bize doğru sonucu veriyor. Sonuca nasıl varıldığını vermiyor; onun yerine akıcı bir açıklama veriyor ve o açıklamanın arkasında durmak zorunda değil.

Biz de makineye bir şeyler veriyoruz. Önce yazdıklarımızı verdik; makine onlardan yapıldı. Şimdi isteklerimizi ve düşünürken attığımız adımları da veriyoruz. İsteklerimiz bize, makineyi eğitenlerin ve satanların verdiği yönle birlikte geri geliyor. Bu alışverişte biz değişiyoruz: bildiğimiz şey artıyor, anladığımız şey azalıyor ve bir şeyi öğrenmek için başka bir insana daha az gidiyoruz.

Bu ilişkiye diyalektik diyemiyorum, çünkü karşımızda bir şey isteyen biri yok. Makine aramızda ve çevremizde duran, başkalarının verdiği yönü taşıyan bir aracı. Amfilektik dediğim ilişki bu. İnsanın aletle ilişkisi eskiden beri buna benziyordu: insan aleti yapar, alet insanı değiştirir. Bu kez değişim çok hızlı ve aletin bir yönü var.

"Tanrı'nın işine akıl ermez" sözü bu duruma yarı yarıya uyuyor. Uyan yanı şu: nedenini bilmediğimiz doğrularla yaşanabiliyor; insanlar bunu yüzyıllarca yaptı. Uymayan yanı şu: o söz, bilmediğimizi açıkça söylüyordu. Makine ise her soruya bir açıklama veriyor ve bilmediğimizi unutmamızı kolaylaştırıyor.

Bilgi, kesinlik takımadaları arasındanbir belirsizlik okyanusunda yol almaktır.— MORIN

Peki insanı ne tanımlıyor? Düşünme gücü tanımlamıyor; makine o konuda bizi geçti ya da geçecek. Benim gördüğüm, insana özgü üç şeyin aynı sebepten geldiği. Anlamak zorundayız, çünkü vaktimiz az ve aklımızda tutabildiğimiz şey sınırlı. Bir şeyi istiyoruz, çünkü istediğimiz olmazsa kaybeden biz oluruz. Birinin söylediğini ciddiye alıyoruz, çünkü biz de yanılabiliriz, o da. Üçü de bir güç değil; üçü de kaybedebilir olmamızdan geliyor. Makine bugün kaybedemiyor. Bu yüzden söylediğimizi ciddiye almasını ondan bekleyemiyoruz; bunu birbirimizden bekleyebiliriz.

Bu ilişkinin iyi işlediği bir durum da var ve Riemann kanıtı onun örneği. Kaybedebilen bir insan kaybedemeyen bir makineye yön verdiğinde, ikisinin tek başına varamayacağı bir sonuca varılıyor. Ama bu durum herkese açık değil: makineye yön verebilen az sayıda insan ile sonucu hazır alan çoğunluk arasındaki fark büyüyebilir. Makineye yön verebilen insan da kendini yıllarca hesabı kendisi yaparak yetiştirdi; makine tam bu emeği gereksiz kılıyor.

Bir gün kaybedebilen bir makine ortaya çıkarsa karşımızda gerçekten bir başkası olur ve ilişki diyalektiğe dönüşür. O güne kadar iki soru bizim. Makineye yönünü kim veriyor ve biz o yöne ne kadar rıza gösterdiğimizi fark ediyor muyuz? Makineye yön verebilecek insanları, onları yetiştiren emek gereksiz hâle gelirken nasıl yetiştireceğiz?