Yapay Zekâ ve Dil Modelleri Nasıl Çalışır?

AI Modeli

İç içe geçmiş halkalar gibi düşün. En dışta en geniş kavram var, içe doğru daraldıkça bugün konuştuğumuz teknolojiye geliyoruz.

Yapay zekâ bir teknoloji değil, bir hedefin adı: insanların “zekâ gerektirir” dediği işleri (görmek, anlamak, konuşmak, plan yapmak, karar vermek) makinelere yaptırmak.

Bu hedefe yetmiş yıldır iki farklı yoldan yürünüyor. Birincisi sembolik yapay zekâ: insan bilgisini açık kurallar halinde yazmak. “Eğer ateş 38'in üstündeyse ve öksürük varsa, grip olabilir” gibi binlerce kural. Satranç programları, uzman sistemler, eski çeviri programları böyleydi. İkincisi bağlantıcı yol: kuralları yazmak yerine, beyinden esinlenen ağların kuralları örneklerden kendisinin bulmasını sağlamak. Bugünkü yapay zekâ neredeyse tamamen ikinci yoldan geliyor.

Makine öğrenmesi: bir bilgisayara ne yapacağını adım adım söylemek yerine, ona örnekler gösterip davranışı örneklerden çıkarmasını sağlamak.

Bir e-posta filtresi düşün. Kural yoluyla “bedava kelimesi geçiyorsa spam” yazarsın; spamcılar “b3dava” yazar ve kuralın çöker. Makine öğrenmesiyle ise filtreye bir milyon “spam” ve “spam değil” etiketli e-posta gösterirsin. Filtre, senin hiç düşünmediğin ipuçlarını kendisi bulur.

Sinir ağı: makine öğrenmesinin en güçlü aracı. Katmanlar halinde dizilmiş, her biri gelen sayıları çarpıp toplayıp bir sonrakine ileten basit hesap birimlerinden oluşan bir yapı.

Adı beyindeki nöronlardan geliyor ama bir benzetme. Gerçek nöronlar çok daha karmaşık. Derin öğrenme ise çok katmanlı (yani “derin”) sinir ağlarıyla öğrenmek. 2012'den beri görüntü tanıma, ses tanıma ve dil alanında bütün büyük sıçramalar buradan geldi.

Büyük dil modeli (LLM): devasa miktarda metinle eğitilmiş, bir metnin devamını tahmin eden çok büyük bir derin öğrenme modeli. ChatGPT, Claude ve Gemini'nin kalbindeki şey bu.

Yani sıralama şöyle: yapay zekâ ⊃ makine öğrenmesi ⊃ derin öğrenme ⊃ dil modelleri. Ama bu tanımlarda iki kelime daha var, “model” ve “eğitim”. Onlar her şeyin anahtarı.

AI Modeli

İkisi de, ve bu ayrım önemli.

Model: bir girdiyi bir çıktıya çeviren matematiksel bir fonksiyon. İçinde ayarlanabilir sayılar var. Bu sayıların değerleri, fonksiyonun ne yaptığını belirliyor.

En basit model lisede gördüğün doğru denklemi: y = a·x + b. Burada a ve b modelin parametreleri (sinir ağlarında genelde ağırlık denir). Ev fiyatını metrekareden tahmin etmek istiyorsan, elindeki örneklere en iyi uyan a ve b'yi bulursun. İşte bu bulma sürecine eğitim deniyor.

Bir dil modeli de aynı fikrin devasa hali. Girdi metin, çıktı “sıradaki kelime için olasılıklar”. Parametre sayısı iki değil, yüz milyarlarca. Model eğitildikten sonra bu sayılar bir dosyaya yazılıyor. “Bir modeli indirmek” dediğimiz şey, bu dosyayı ve onu çalıştıracak fonksiyonun tarifini indirmek. 70 milyar parametreli bir model, sayı başına 2 bayttan yaklaşık 140 GB'lık bir dosya.

Modelin hayatında iki ayrı evre var ve bunları karıştırmamak gerekiyor:

Eğitim (training): modelin ağırlıklarının veriden öğrenilerek ayarlandığı süreç. Model örneklere bakar, tahmin yapar, hatasını ölçer, ağırlıklarını biraz düzeltir. Bunu milyarlarca kez tekrarlar. Büyük modellerde haftalar sürer, binlerce çip kullanır, yüz milyonlarca dolar tutabilir. Genelde bir kez yapılır.

Çıkarım (inference): eğitilmiş modelin, ağırlıkları değişmeden, yeni bir girdiye cevap üretmesi. Sen ChatGPT'ye bir soru yazdığında olan şey bu. Her kullanımda tekrar edilir. Tek seferi ucuzdur ama milyonlarca kullanıcıyla toplam maliyet eğitimi geçebilir.

Bir benzetme: eğitim, bir öğrencinin yıllarca okuması; çıkarım, sınavda soruyu cevaplaması. Sınav sırasında öğrenci yeni şey öğrenmez, bildiğini kullanır. Bu, sık yapılan bir yanılgıyı da açıklıyor: modelle sohbet ederken model senden “öğrenmez”. Ağırlıkları değişmez. Konuşma içinde verdiğin bilgiyi o konuşma boyunca kullanır, ama konuşma bitince unutur. Bir ürün seni “hatırlıyorsa”, bu modelden değil, ürünün ayrı bir hafıza sisteminden gelir. Buna birazdan geleceğiz.

AI Modeli

Hayır, ve bu belki de bütün bölümün en kullanışlı ayrımı. ChatGPT, Claude ve Gemini birer ürün. İçlerinde bir ya da birkaç model çalışıyor, ama model ürünün yalnız bir parçası.

Model ≠ ürün: bir sohbet ürünü = model + gizli bir talimat metni (sistem promptu) + konuşma geçmişi + arama gibi araçlar + seni hatırlayan bir hafıza katmanı + güvenlik filtreleri + arayüz.

Bir ürünün sana bugünün tarihini söylemesi, internette arama yapması, adını hatırlaması, bir konuda cevap vermeyi reddetmesi; bunların her biri farklı bir katmandan gelebilir. Aynı model iki farklı üründe bambaşka davranabilir.

Üçüncü bir kelime daha var, giderek önem kazanıyor:

Ajan: bir hedefe ulaşmak için kendi başına adımlar atan sistem. Düşünür, bir araç çağırır (dosya oku, kod çalıştır, web'de ara), sonucu görür, bir sonraki adıma karar verir. Görev bitene kadar döngü sürer.

Bir sohbet modeli sorunu cevaplar; bir ajan işi yapar. Kod yazan ajanlar (Claude Code, Codex, Devin) bugün bunun en olgun örnekleri.

AI Modeli

Görebilirsin, ve bu harita bütün kitabın iskeleti olacak. Yapay zekâ tek bir şirket ya da tek bir teknoloji değil; on katmanlı bir yığın. Her katman bir alttakinin üstüne kurulu, her birinin kendi oyuncuları ve darboğazları var. Bir katmana dokun, sonra “Bir isteğin yolculuğu”na bas ve yazdığın bir sorunun bu yığında nasıl aşağı inip geri çıktığını izle.

AI Modeli

Bu yığından üç ders çıkıyor:

• En alttaki katmanlar en yavaş değişenler. Bir model birkaç ayda eğitilir, bir yazılım haftalar içinde çıkar. Ama bir çip fabrikası yıllar, bir enerji santrali on yıl ister. Yapay zekânın hızının son sınırı fizik.
• Her katmanın bir “neden”i var. Bir model neden yavaş? Belki modelden değil, servis katmanındaki bellekten. Bir ürün neden hata yapıyor? Belki modelin bilgisinden değil, ürünün aramadan getirdiği kaynaktan. İyi soru, “hangi katmanda?” sorusudur.
• Bu kitap aşağıdan yukarı tırmanıyor. Önce verinin nasıl toplandığını, sonra modelin içini, sonra eğitimini, sonra ürün ve ajan katmanlarını, en son toplumu konuşacağız. Sağdaki (telefonda alttaki) katman çubuğu, hangi katmanda olduğunu her an gösteriyor.

AI Modeli

ChatGPT, yetmiş yıllık bir hikâyenin halka görünen anı. Dönüm noktaları:

1. 1950Alan Turing “Makineler düşünebilir mi?” diye sorar ve “taklit oyunu”nu önerir.
2. 1956Dartmouth'ta “yapay zekâ” adı konur. Büyük iyimserlik: “bir yaz yeter”.
3. 1958Perceptron: öğrenen ilk yapay nöron. 1969'da sınırları gösterilir, ilk “yapay zekâ kışı” gelir.
4. 1980'lerKural tabanlı uzman sistemler. Kurallar çoğaldıkça bakımı imkânsızlaşır, ikinci kış.
5. 1986Geri yayılım yaygınlaşır: çok katmanlı ağları eğitmenin yolu.
6. 1997Deep Blue, Kasparov'u yener. Öğrenme değil, devasa arama.
7. 2012AlexNet: ekran kartında eğitilen derin ağ görüntü tanımada rakiplerini ezer. Derin öğrenme çağı.
8. 2016AlphaGo, Go şampiyonunu yener: öğrenme ve arama birlikte.
9. 2017Transformer mimarisi. Bugünkü bütün dil modellerinin temeli.
10. 2020GPT-3: model büyüdükçe öngörülebilir biçimde iyileşir. Prompt'tan öğrenebilir.
11. 2022ChatGPT: insan geri bildirimiyle eğitilmiş sohbet asistanı, iki ayda yüz milyon kullanıcı.
12. 2024Reasoning modelleri: cevap vermeden önce uzun uzun düşünen modeller.
13. 2025Kodlama ajanları ve bilgisayar kullanan ajanlar yaygınlaşır, ajan protokolleri standartlaşır.
14. 2026Çoklu ajan sistemleri, saatlerce süren işleri üstlenen ajanlar, metin yerine karar üreten yeni model türleri.

Özetle: kurallar → öğrenme → ölçek → ajanlık.

AI Modeli

Şimdi aşağıdan tırmanmaya başlayalım. Ama ilk basamak çip ya da algoritma değil. Bir model, ne kadar akıllı olursa olsun, ancak gördüğü kadarını bilebilir. Peki bir dil modeli neyi “görür”? Trilyonlarca kelime nereden toplanıyor, nasıl temizleniyor, ve neden “daha çok veri” her zaman daha iyi değil?

AI Modeli

Kimse tek tek toplamıyor; tarayıcı botlar topluyor. Kaynakların büyük kısmı şunlar:

• Web taraması. Common Crawl adlı kâr amacı gütmeyen proje 2008'den beri interneti düzenli tarayıp milyarlarca sayfayı herkese açık arşivliyor. Laboratuvarların kendi tarayıcıları da var.
• Kod. GitHub gibi platformlardaki açık kaynak depolar.
• Kitaplar ve makaleler. Dijitalleştirilmiş kitaplar, bilimsel makale arşivleri (arXiv gibi), ansiklopediler.
• Lisanslı veri. Para karşılığı anlaşmayla alınan haber arşivleri, forumlar, kurumsal içerik.
• İnsanların özel olarak yazdığı veri. Asistan eğitiminde kullanılan soru-cevap örnekleri ve tercih işaretlemeleri (Bölüm 8).

Toplanan bu ham yığının adı:

Corpus: bir amaç için toplanmış metinlerin tamamı, henüz işlenmemiş halde.

Ama ham corpus doğrudan eğitime girmez. Rastgele bir web sayfasını aç: yazının kendisi belki sayfanın yarısı. Gerisi menü, çerez uyarısı, reklam, “bunları da beğenebilirsiniz” kutuları, telif satırı. Modeli bununla beslersen, model yazmayı değil, web sitesi iskeletlerini öğrenir.

AI Modeli

Yine insanlar değil, bir boru hattı. Her aşama verinin bir kısmını eliyor:

AI Modeli

• Temizleme: sayfadaki asıl yazıyı kalıp metinden (boilerplate) ayırmak, bozuk karakterleri düzeltmek.
• Tekilleştirme: aynı yazının yüzlerce kopyası varsa (haber ajansı metinleri, kopyalanan sayfalar) model ona gereğinden fazla ağırlık verir ve onu ezberler. Bu yüzden birebir ve “neredeyse aynı” kopyalar ayıklanır.
• Filtreleme: kalite ve güvenlik. Çoğu zaman küçük bir sınıflandırıcı model, “bu sayfa ansiklopedi ya da iyi bir makale gibi mi, yoksa spam gibi mi?” diye puan verir. Zararlı içerik ve kişisel bilgiler (telefon, kimlik numarası) ayıklanır.

Filtrelemenin gizli bir bedeli var: her filtre bir değer yargısı. “Kaliteli” yazının örneği olarak Wikipedia gösterilirse, filtre lehçeleri, gündelik dili ya da az temsil edilen dilleri “kalitesiz” sanıp atabilir. Verinin kim tarafından ve hangi ölçütle seçildiği, modelin kimin sesiyle konuşacağını belirliyor.

Veri karışımı: temizlenmiş kaynakların eğitimde hangi oranda kullanılacağı. Ne kadar kod, ne kadar matematik, ne kadar İngilizce, ne kadar Türkçe.

Bu karar modelin yeteneklerini doğrudan şekillendiriyor. Kod oranını artırmak sadece kodlamayı değil, mantık yürütmeyi de iyileştiriyor gibi görünüyor. Türkçe oranı düşükse model Türkçeyi anlar ama daha kötü yazar, daha çok hata yapar. İngilizce veriyi artırmak Türkçe başarıyı kendiliğinden artırmaz.

AI Modeli

Kimse. Dil modellerini mümkün kılan fikir tam olarak bu.

Öz-denetimli öğrenme: etiketi verinin kendisinden üretmek. Bir cümlenin bir kısmını gizleyip modelden onu tahmin etmesini istersin; cevap anahtarı zaten cümlenin içinde.

“Meyve deyince akla önce elma, armut ve ___” cümlesinde boşluğun cevabı metnin devamında yazıyor. İnternetteki her cümle, kendi sınavının cevap anahtarını taşıyor. Bu yüzden etiketlenmiş birkaç milyon örnekle sınırlı kalmak yerine, bütün internet eğitim verisi olabiliyor. Bölüm 3'te bunun tam olarak nasıl bir görev olduğunu göreceğiz: sonraki kelimeyi tahmin etmek.

Etiketli veri ise sonraki aşamalarda geri dönüyor. Modeli bir asistana dönüştürmek için insanların yazdığı örnek diyaloglar ve “hangi cevap daha iyi?” işaretlemeleri gerekiyor. Bu iş için binlerce kişinin çalıştığı veri etiketleme şirketleri var. Ekosistem grafiğindeki veri katmanının görünmeyen emek kısmı bu.

AI Modeli

Bu bugün alanın en büyük sorularından biri ve adı veri duvarı. Bağımsız araştırma kuruluşu Epoch AI'ın tahminlerine göre internetteki yüksek kaliteli, herkese açık insan metni, bugünkü eğilimle 2026–2030 arasında tükeniyor. Laboratuvarlar duvarı birkaç yoldan esnetiyor:

• Lisanslama: yayıncılar, forumlar ve arşivlerle para karşılığı anlaşmalar. Veri artık bedava bir ortak alan değil, satın alınan bir mal.
• Yeni türler: video, ses, görüntü. İnsanlığın ürettiği bilginin çoğu metin değil.
• Sentetik veri: modellerin ürettiği veri. Bir modele bir matematik problemine bin farklı çözüm yazdırıp doğru olanları tutmak gibi. Doğrulanabildiği yerde çok güçlü.
• Etkileşim: modelin kod yazıp çalıştırdığı, hata alıp düzelttiği ortamlar. Burada veri tükenmez, çünkü her deneme yeni veri üretir (Bölüm 7).

Sentetik verinin bir tuzağı var. Modeller kuşaklar boyunca yalnız kendi çıktılarıyla beslenirse, nadir ve ilginç olan şeyler kaybolur, her şey ortalamaya yığılır. Fotokopinin fotokopisi gibi. Buna model çöküşü deniyor. Çözüm, gerçek insan verisini korumak ve sentetik veriyi seçerek, doğrulayarak kullanmak. İnternetin kendisi de giderek daha çok yapay zekâ üretimi metinle dolduğu için, 2022 öncesinin “temiz” insan metni giderek değerleniyor.

AI Modeli

Elimizde artık temizlenmiş, karıştırılmış trilyonlarca kelime var. Sıradaki soru: bir makine bu metinle tam olarak ne yapıyor? Cevap şaşırtıcı derecede basit: sadece bir sonraki kelimeyi tahmin etmeye çalışıyor. Bu kadar basit bir oyunun nasıl bu kadar akıllı görünen davranışlar ürettiğini görmek için motoru çalıştıralım.

AI Modeli

Daha basit, ve bu basitlik şaşırtıcı.

Sonraki token tahmini: model bir metni alır ve “bundan sonra hangi parça gelir?” sorusuna bir olasılık listesiyle cevap verir. Dil modelinin eğitimdeki tek görevi budur.

“Parça” derken kelime değil token diyoruz. Token bazen bir kelime, bazen bir kelimenin parçası (“ev” + “ler” + “imiz”), bazen bir noktalama işareti. Bir sonraki bölümde metnin nasıl token'lara bölündüğünü göreceğiz; şimdilik “kelime” gibi düşünebilirsin.

Cevap tek bir kelime değil, bir olasılık dağılımı. “Meyve deyince akla önce elma, armut ve ___” cümlesi için modelin çıktısı kabaca şöyle bir liste: muz %27, kiraz %18, ayva %13, çilek %11… ve sözlükteki yüz bin token'ın her birine küçük de olsa bir olasılık. Hepsinin toplamı %100.

Peki bu tek tahmin nasıl bütün bir cevaba dönüşüyor? Bir döngüyle:

1. Model sıradaki token için olasılıkları hesaplar.
2. Bu olasılıklardan bir token seçilir.
3. Seçilen token metnin sonuna eklenir.
4. Uzamış metin modele yeniden verilir. Model “bitti” anlamına gelen özel bir token seçene kadar tekrar edilir.

Otoregresif üretim: her adımda kendi önceki çıktısını girdi olarak kullanarak metni token token büyütmek.

Ekranda cevabın kelime kelime aktığını görmenin sebebi bu: model gerçekten de cevabı o sırayla üretiyor. Aşağıdaki animasyon bu tek tahmin işleminin içini sekiz adımda gösteriyor. İçerideki kutuları bir sonraki bölümde tek tek açacağız; şimdilik bütünü gör. Sonra “Kış geldi.” bağlamını aç ve aynı makinenin ayvaya nasıl döndüğünü izle.

AI Modeli

Bağlamı değiştirdiğinde modelin hiçbir parçası değişmedi. Aynı ağırlıklar, farklı girdi, farklı olasılıklar. Bunu aklında tut: bir modelin ne söyleyeceğini değiştirmenin en ucuz ve en güçlü yolu, ona ne verdiğini değiştirmek.

AI Modeli

İyi bir test, çünkü model “zebra kokoreci” diye bir şeyi büyük ihtimalle hiç görmedi. Ama kokoreççiyi, bağırsağı, şaşırtıcı sokak hikâyelerini ve absürt bir iddiadan sonra insanların ne yazdığını milyonlarca kez gördü. Aşağıda modelin bu cümleyi token token nasıl tamamladığını izleyebilirsin. Her adımda en olası beş aday, seçilen token ve o anda dikkatin en çok yöneldiği kelimeler görünüyor. Önce düşük sıcaklıkla sonuna kadar git, sonra yüksek sıcaklıkla tekrar dene:

AI Modeli

Bu küçük deneyden çıkan iki ders, bu bölümün özü:

• Model “doğruyu” değil “olası olanı” yazıyor. Zebra bağırsağından kokoreç olmadığını bilmesine gerek yok; böyle bir cümleden sonra insanların genelde ne yazdığını biliyor: şaşkınlık, sonra doğrulama. Yazdığı şey bir gerçeklik raporu değil, gerçekçi bir devam.
• Tek bir zar atışı her şeyi değiştirebiliyor. Yüksek sıcaklıkta ilk adımda üçüncü aday seçildi ve hikâye bambaşka yere gitti. Model geri dönüp düzeltemiyor; yazdığı her token sonrakilerin zemini.

Bu ikisi, ileride göreceğimiz halüsinasyonun da kökü (Bölüm 11).

AI Modeli

Hayır, iki aşamada.

Logit: modelin sözlükteki her token için ürettiği ham puan. Herhangi bir sayı olabilir: 3,1 ya da −4. Tek başına bir olasılık değildir.

Bu puanları olasılığa çeviren formül:

Softmax: her puanı e üssüne alıp (e ≈ 2,718), hepsini bunların toplamına bölmek. Sonuç: hepsi pozitif ve toplamı tam 1.

Olasılıklar hazır. Şimdi bir seçim yapılmalı.

Örnekleme (sampling): olasılıklara göre ağırlıklı bir zar atmak. %27 olasılıklı “muz” yüz denemede kabaca 27 kez seçilir.

Hep en olası olanı seçmek de mümkün; buna açgözlü (greedy) seçim deniyor. Ama açgözlü seçim tekdüze ve tekrarlı metinler üretme eğiliminde. Bu yüzden modeller genelde örnekleme yapıyor ve zarın ne kadar “cesur” olacağını birkaç düğmeyle ayarlıyoruz:

• Sıcaklık (temperature): logitler softmax'tan önce bu sayıya bölünür. Küçükse (0,2) farklar devleşir, model hep en olasıya yapışır: tutarlı ama tekdüze. Büyükse (1,2) farklar erir, düşük olasılıklı seçenekler de şans bulur: yaratıcı ama sapmaya açık.
• Top-k ve top-p: zar atmadan önce listenin uzun kuyruğunu kesmek. Top-k en olası k adayı tutar. Top-p, en olasılardan başlayıp toplamı p'ye (örneğin %90) ulaşanları tutar. “Tornavida” gibi absürt seçenekler böylece hiç zar torbasına girmez.

Kendin dene:

AI Modeli

Modele gerçek bir metin verip her adımda gerçekten gelen token'a ne kadar olasılık verdiğine bakıyoruz. İyi model, gerçekte gelen kelimeye yüksek olasılık verir; yani metin karşısında az “şaşırır”. Bunu ölçmenin iki ünlü yolu var:

Entropi: bir olasılık dağılımının ne kadar belirsiz olduğunun ölçüsü, bit cinsinden. Yazı-tura 1 bit; %99'a %1 bir dağılım 0,08 bit.

Perplexity: modelin her adımda ortalama kaç seçenek arasında kalmış gibi şaşırdığı. Perplexity 10 ise model her kelimede sanki 10 eşit olasılıklı aday arasında kalıyormuş gibi.

Bu ölçüler eğitimin pusulası. Eğitim boyunca tek hedef, modelin gerçek metinler karşısındaki şaşkınlığını azaltmak. Formülünü Bölüm 5'te göreceğiz.

AI Modeli

Şu ana kadar modeli bir kara kutu gibi kullandık: metin giriyor, olasılıklar çıkıyor. Ama bir bilgisayar kelimeleri anlamaz, sadece sayılarla hesap yapar. O halde iki soru var. “Ayva” kelimesi nasıl sayıya dönüşüyor? Ve o sayılar, “Kış geldi.” cümlesinin ayvayı öne çıkarması gibi bağlam etkilerini nasıl hesaplıyor? Motorun kapağını açma zamanı.

AI Modeli

Ne harf harf ne kelime kelime; arada bir şey.

Tokenizer: metni, önceden belirlenmiş bir sözlükteki parçalara (token'lara) bölen ve her parçaya bir numara veren bileşen.

Harf harf bölmek çok uzun diziler yaratır. Kelime kelime bölmek ise sözlüğü sonsuz büyütür; Türkçede bir kökten binlerce kelime türeyebiliyor. Çözüm ortada: sık geçen kelimeler tek parça, nadir kelimeler ve ekler birkaç parça. Bu sözlüğü kurmanın en yaygın yolunun adı BPE (byte pair encoding). Yöntem basit: harflerle başla, bütün metinde en sık yan yana gelen iki parçayı birleştir, tekrarla. Birkaç on bin birleştirme sonra “ev”, “ler”, “ayva”, “ing” gibi kullanışlı parçalardan oluşan bir sözlük (vocabulary) çıkar.

Bunun Türkçe için önemli bir sonucu var. Sözlükler çoğunlukla İngilizce ağırlıklı metinle kurulduğu için, “evlerimizden” gibi eklemeli bir kelime dört beş parçaya bölünebiliyor. Bir kelimenin ortalama kaç token'a bölündüğüne tokenizer verimi (fertility) deniyor. Aynı anlamı taşımak için daha çok token, daha çok para ve bağlam penceresinde daha az yer demek. Kendin dene:

AI Modeli

Token numarası sadece bir kimlik; 302 ile 303 arasında anlam yakınlığı yok. Anlam bir sonraki adımda geliyor, ve onun için iki matematik kelimesine ihtiyacımız var.

AI Modeli

Embedding (gömme): her token numarasını, o token'ın anlamını taşıyan bir vektöre çeviren büyük bir tablo. Satır sayısı sözlük boyutu kadar, her satır birkaç bin sayı.

Bu tablo elle yazılmadı; eğitim sırasında öğrenildi. Öğrenmenin yan ürünü olarak benzer bağlamlarda geçen kelimelerin vektörleri birbirine yakın yönlere kaydı. “Elma” ile “armut” aynı cümlelerde geçtiği için yakın; “tornavida” uzak. Ortaya bir anlam uzayı çıkıyor. İki kelimenin bu uzayda ne kadar yakın olduğunu ölçmek için kosinüs benzerliği kullanılıyor: iki ok aynı yöne bakıyorsa 1, alakasızsa 0'a yakın.

Aşağıda her kelime 6 boyutlu bir oyuncak vektör, ekranda 2 boyuta indirilmiş hali. Ayvaya, sonra elmaya dokun. Sonra vektör aritmetiğini dene:

AI Modeli

Dikkat çeken iki şey:

• Ayva meyve bölgesinde ama kenarda, kış ve reçel yönüne çekik. Bu bir dünya gerçeği değil, eğitim verisinde ayvanın hangi kelimelerle birlikte geçtiğinin izi.
• Elma iki yere birden yakın: meyvelere ve biraz da teknolojiye. Tek bir vektör birden fazla anlamı aynı anda taşıyabiliyor.

Hangi anlamın öne çıkacağını bağlam belirler. Ama embedding tablosu bağlamı bilmez; “elma” her cümlede aynı vektörle başlar. O halde vektörü bağlama göre düzeltecek bir mekanizma lazım. Tarihte bunun iki çözümü oldu.

AI Modeli

İlk büyük fikir, insan gibi soldan sağa okumaktı.

RNN (tekrarlayan sinir ağı): metni kelime kelime okuyan ve her adımda o ana kadar okuduklarını tek bir küçük vektörde (gizli durum) özetleyen ağ. Her yeni kelimede özet güncellenir.

Bir kayıt cihazı düşün; ama sadece tek bir not kâğıdı var ve her yeni kelimede notu yeniden yazmak zorundasın. Uzun bir metinde baştaki bilgi defalarca üzerine yazılıp silikleşir. Buna uzun mesafe bağımlılığı problemi deniyor: 50 kelime önceki öznenin kim olduğunu hatırlamak zor. LSTM adlı geliştirilmiş versiyonlar bu notu korumak için “kapılar” ekledi ve epey iyileştirdi, ama iki sorun kaldı. Bilgi yine tek bir dar kanaldan geçiyordu. Ve 100. kelimeyi işlemek için 99'uncunun bitmesini beklemek gerekiyordu; işlem paralelleşemiyordu, binlerce çekirdekli GPU'lar boşta bekliyordu.

AI Modeli

Evet. 2017'de Google araştırmacıları “Attention Is All You Need” makalesiyle RNN'i tamamen bıraktı.

Dikkat (attention): cümledeki her kelimenin, aradaki mesafe ne olursa olsun diğer bütün kelimelere doğrudan bakıp “bana ne kadar ilgilisin?” diye sorması ve cevaba göre onlardan bilgi toplaması. Bütün kelimeler bunu aynı anda yapar.

İki sorun birden çözüldü: uzak kelimeler artık tek adımda birbirine ulaşıyor ve hesap tamamen paralel. Paralellik, internet ölçeğinde veriyle eğitmeyi mümkün kıldı. Bu mimarinin adı transformer.

Dikkat nasıl hesaplanıyor? Her token'ın vektörü üç ayrı matrisle çarpılıp üç yeni vektör üretiliyor:

• Query (Q, sorgu): “Ben neyi arıyorum?”
• Key (K, anahtar): “Bende ne var?”
• Value (V, değer): “Eşleşirsek sana vereceğim bilgi.”

Bir kütüphane düşün. ‘Banka’ kelimesi elinde bir soru kâğıdıyla (Q) ayağa kalkıyor: “Su mu, para mı?” Herkesin göğsünde bir yaka kartı (K) var: ‘nehir’in kartında “su, doğa, yer” yazıyor. Soru kâğıdı herkesin kartıyla nokta çarpımıyla karşılaştırılıyor. Eşleşme ne kadar güçlüyse, o kelimenin çantasından (V) o kadar bilgi ‘banka’nın vektörüne dökülüyor. Benzetmenin sınırı: Q, K, V gerçekte “soru” ya da “kart” değil, aynı vektörün eğitimde öğrenilmiş üç farklı izdüşümü.

Bu oyuncakta ‘banka’nın iki farklı cümlede bambaşka yerlere baktığını görebilirsin:

AI Modeli

Tablodaki “toplam” satırına dikkat et: ham çarpım skorlarının toplamı her seferinde başka bir sayı. Bunlar bağımsız karşılaştırmalar; toplamlarının bir anlamı yok. Anlamlı payları softmax üretiyor (Bölüm 3'teki aynı formül). Bir ayrıntı daha: skorlar softmax'tan önce vektör boyutunun kareköküne bölünüyor (√d ölçeklemesi). Boyut binlerce olunca çarpımlar çok büyür; bölmezsen softmax bütün dikkati tek bir kelimeye yapıştırır ve eğitim bozulur.

Formülün tamamı tek satır:

AI Modeli

Yetmez, ve çözüm tam senin dediğin gibi: birden çok dikkat.

Çok kafalı dikkat: vektörü birkaç küçük parçaya bölüp her parça için ayrı Q, K, V hesaplamak. Her parça bir “kafa”. Her kafa bağımsız olarak kendi ilişki türüne bakar, sonra sonuçlar birleştirilir.

Aşağıda bütün akış adım adım var: girdi vektörleri, kafa başına Q/K/V izdüşümleri, skor tablosu, maske, softmax, V ile çarpım ve birleştirme. Cümle bir tuzak içeriyor: “Ayşe ayvayı kesti çünkü o çok sertti.” Sert olan kim? Kafaları tek tek değiştir:

AI Modeli

Gerçek modellerde her katmanda onlarca kafa var. Bazılarının rolü araştırmacılar tarafından çözüldü. En ünlüsü indüksiyon kafası: metinde “A B … A” görünce sıradaki için “B” tahmin ediyor, yani “bu kelimeden sonra daha önce ne geldiyse onu kopyala” diyor. Bu basit devre, modelin prompt'a yazdığın birkaç örnekten yeni bir görevi kapmasının (bağlam içi öğrenme) temel mekanizmalarından biri. Ama çoğu kafanın rolü bu kadar temiz değil; temiz etiketler istisna.

Büyük modellerde bellek tasarrufu için K ve V'yi kafalar arasında paylaştıran çeşitler kullanılıyor (GQA, MQA). Fikir aynı, maliyet daha düşük.

AI Modeli

Doğru tespit. Dikkat bilgiyi taşır, yeni bilgi eklemez. Bilgiyi ekleyen ikinci bir parça var. İkisi birlikte bir blok oluşturuyor:

Transformer bloğu: normalizasyon → çok kafalı dikkat → toplama → normalizasyon → MLP → toplama. Büyük bir model, bu bloğun onlarca ya da yüzün üstünde kopyasını üst üste dizer.

• MLP (çok katmanlı algılayıcı): her token'ın vektörünü tek başına işleyen iki katmanlı küçük bir ağ. Vektörü önce yaklaşık dört kat genişletir, sonra tekrar daraltır.
• Genişletme ile daraltma arasında bir aktivasyon fonksiyonu var: negatifleri sıfıra yakınlaştıran bir eşik gibi düşün (ReLU, GELU, SwiGLU). Bu “doğrusal olmama” olmasaydı, kaç katman koyarsan koy bütün ağ tek bir matris çarpımına indirgenirdi ve karmaşık kalıpları öğrenemezdi.
• Normalizasyon (LayerNorm, RMSNorm): her vektörün büyüklüğünü standart bir aralığa çekmek. Yüzlerce katman boyunca sayıların patlamasını ya da sönmesini önler.

Araştırmacılar MLP katmanını bir anahtar-değer hafızası gibi okuyor. Geniş katmandaki her nöronun “anahtarı” bir örüntü tanıyor, örneğin “meyve listesi ve bağlamda kış var”. Örüntü tanınınca nöronun “değeri”, mesela “ayva, nar, portakal yönü”, vektöre ekleniyor. Yoğun modellerde parametrelerin yaklaşık üçte ikisi MLP'lerde; modelin “bildiklerinin” büyük kısmı da büyük ihtimalle orada.

AI Modeli

Bu, transformer'ı anlamanın anahtarı.

Residual stream (artık akış): her token konumu için katmanlar boyunca akan ana vektör. Her katman bu vektörü okur, bir şey hesaplar ve sonucu vektörün üstüne ekler. Hiçbir katman silip baştan yazmaz.

Her token'ın bir şeridi olan bir otoban düşün. Şeritte bir not akıyor; her istasyon (katman) notu okuyup kendi gözlemini ekliyor: “bu bir meyve listesi”, “bağlamda kış var”, “o halde sıradaki bir kış meyvesi olabilir”. Son istasyonda not o kadar zenginleşmiş ki, sözlükle karşılaştırılınca ‘ayva’ öne çıkıyor.

Bu “x + f(x)” hilesinin adı atlama bağlantısı (residual connection) ve iki büyük faydası var. Eğitim sırasında hata sinyali bu toplama yolundan doğrudan geçebiliyor; yoksa yüz katmanlı ağlar eğitilemezdi (Bölüm 5). İkincisi, şerit katmanlar için ortak bir pano oluyor: katmanlar birbirine mesaj atmıyor, hepsi aynı vektörün farklı yönlerine yazıp okuyor. Aşağıda katmanları tek tek kapat ve tahminin nasıl değiştiğini gör. Araştırmacıların modelin içini anlamak için yaptığı en temel deney bu:

AI Modeli

Klasik (yoğun) bir modelde evet. Senin sezgin, bugün büyük modellerin çoğunun kullandığı mimarinin arkasındaki fikir.

Uzmanlar karışımı (Mixture of Experts, MoE): MLP katmanını birçok küçük “uzmana” bölmek ve küçük bir yönlendirici ağın her token için bunlardan yalnız birkaçını seçmesi. Model toplamda çok büyük, ama token başına çalışan kısım küçük.

Örneğin 500 milyar parametreli bir model, her token için yalnız 20–30 milyarını kullanabiliyor. “Toplam parametre” ile “aktif parametre” ayrımı, model duyurularında bu yüzden ayrı ayrı yazılıyor.

AI Modeli

Artık motorun bütün parçalarını tanıyorsun:

1. Token'lar embedding'e dönüşüyor, konum bilgisi ekleniyor.
2. Onlarca blok boyunca dikkat bilgi taşıyor, MLP bilgi ekliyor, her şey residual stream'de toplanıyor.
3. Son vektör sözlükle karşılaştırılıp logitlere, softmax ile olasılığa dönüşüyor.

Ama bütün bu parçalarda milyarlarca sayı var: embedding tablosu, Q/K/V matrisleri, MLP ağırlıkları. Bu sayıların değerleri nereden geliyor? Başlangıçta rastgeleydiler. Rastgele sayıların “ayva bir meyvedir” bilgisine dönüşmesi, makine öğrenmesinin asıl sihri.

AI Modeli

Var, ve tek bir formül.

Kayıp (loss): modelin tahmininin doğru cevaptan ne kadar uzak olduğunu tek bir sayıyla ölçen fonksiyon. Sıfır mükemmel demek; büyüdükçe kötü. Eğitimin bütün amacı bu sayıyı küçültmek.

Dil modelinde hakem metnin kendisi. Modele “…armut ve” kısmına kadarını gösteriyoruz. Model sözlükteki her token'a bir olasılık veriyor, diyelim ‘ayva’ya %8. Gerçek metinde sıradaki kelime ‘ayva’ olduğu için ceza:

Bu formülün adı çapraz entropi. Bölüm 3'teki perplexity, bu cezanın ortalamasının üstele çevrilmiş hali. Ön eğitim, trilyonlarca token boyunca bu ortalama cezayı küçültmekten ibaret.

AI Modeli

Sisli bir dağda aşağı inmeye çalıştığını düşün. Vadiyi göremiyorsun ama ayağının altındaki eğimi hissedebiliyorsun. Mantıklı strateji: en dik iniş yönüne küçük bir adım at, tekrar hisset, tekrar adım at. Eğimi hissetmenin matematiksel adı türev.

Türev: bir girdiyi çok az değiştirdiğinde çıktının ne kadar ve hangi yönde değiştiği. “Bu ağırlığı biraz artırsam ceza artar mı azalır mı, ne kadar?”

Gradyan: bütün ağırlıkların türevlerinin bir araya getirildiği vektör. Kaybın en hızlı arttığı yönü gösterir; tersi en hızlı azaldığı yön.

Gradyan inişi: her ağırlığı gradyanın tersi yönünde küçük bir miktar kaydırmak ve bunu tekrarlamak.

Adımın büyüklüğü kritik ve bir adı var: öğrenme oranı. Aşağıda tek ağırlıklı bir oyuncak var. Önce küçük oranla çalıştır, sonra büyüt:

AI Modeli

Gerçek eğitimde iki pratik ayrıntı var.

Batch: her adımda bütün veriye değil, rastgele seçilmiş bir grup örneğe (örneğin birkaç milyon token'a) bakıp gradyanı onlardan hesaplamak. Bütün veri üzerinde baştan sona bir geçişe epoch denir.

Her adımda küçük bir rastgele gruba bakmanın adı stokastik gradyan inişi (SGD). Gürültülü ama hızlı; gürültü bazen modelin kötü çukurlardan kurtulmasına bile yardım ediyor. Grup belleğe sığmayacak kadar büyük olunca birkaç küçük grubun gradyanı toplanıp sonra adım atılıyor (gradyan biriktirme).

Optimizer: gradyanı ham kullanmak yerine adımı daha akıllıca hesaplayan algoritma. En yaygını Adam (ve ağırlıkların gereksiz büyümesini frenleyen versiyonu AdamW). Her ağırlık için geçmiş eğimlerin ortalamasını (momentum) ve büyüklüğünü tutar: sürekli aynı yöne iten ağırlıkta hızlanır, zikzak çizen ağırlıkta yavaşlar.

Bedeli bellek: Adam her ağırlık için iki sayı daha saklıyor. Büyük bir modeli eğitmek, ağırlıkların kendisinden kat kat fazla bellek istiyor. Uzun eğitimler sırasında bütün bu durum düzenli aralıklarla diske kaydediliyor; buna checkpoint deniyor. Bir donanım arızasında eğitim baştan değil, son kayıttan devam ediyor.

AI Modeli

Geri yayılım (backpropagation): çıktıdaki hatanın her ağırlıktaki payını, sondan başa doğru katman katman ilerleyerek hesaplama yöntemi.

Bir fabrika hattı düşün: ham madde 48 istasyondan geçip son ürüne dönüşüyor ve son üründe bir kusur var. Hangi istasyon ne kadar suçlu? Sondan başlarsın. Son istasyon, “ürün şu yönde bozuk; bana gelen parça şu yönde farklı olsaydı ürün düzelirdi” der ve bu bilgiyi bir öncekine iletir. O da aynı hesabı kendi girdisi için yapar. Suç payı böylece sondan başa yayılır.

Matematikteki karşılığı lisede gördüğün zincir kuralı: iç içe fonksiyonların türevi, her halkanın türevlerinin çarpımıdır.

Bu verimlilik olmasaydı derin öğrenme olmazdı. Her ağırlığı tek tek oynatıp cezanın nasıl değiştiğine bakmak, milyarlarca ayrı hesap gerektirirdi. Bir eğitim adımının tamamı böylece dört parçadan oluşuyor:

1. İleri geçiş: tahmin et.
2. Kaybı hesapla.
3. Geri yayılım: gradyanı bul.
4. Optimizer adımı: ağırlıkları güncelle.

AI Modeli

Olur, ve uzun yıllar derin ağları eğitmeyi imkânsız kılan sorun tam buydu.

Kaybolan / patlayan gradyan: zincirdeki çarpanlar 1'den küçükse sinyal derinlikte sönükleşir, büyükse patlar. 48 halkada her çarpan 0,9 ise başa ulaşan sinyal 0,9⁴⁸ ≈ 0,006; ilk katmanlar hiçbir şey öğrenmez. 1,1 ise 97 katına çıkar ve eğitim çöker.

Çözüm üç parçadan geldi:

• Daha iyi aktivasyon fonksiyonları.
• Normalizasyon katmanları.
• Bölüm 4'teki atlama bağlantıları. “x + f(x)” toplamı, gradyana bütün halkaları atlayıp doğrudan geçebileceği bir otoyol açıyor.

Sayıların kendisi de sorun çıkarabiliyor. Bilgisayar sayıları sınırlı bitle tutuyor. Çok küçük sayılar sıfıra yuvarlanabiliyor, çok büyükler taşabiliyor (sayısal kararlılık). Büyük eğitimlerde zaman zaman kaybın aniden fırladığı “sıçramalar” görülüyor; ekipler bunu izleyip son checkpoint'e geri dönüyor.

AI Modeli

Bu, makine öğrenmesinin belki de en temel sorusu.

Genelleme: modelin eğitimde görmediği örneklerde de doğru çalışması. Asıl istediğimiz bu; eğitim verisinde iyi olmak tek başına değersiz.

Ölçmenin yolu bir disiplin: veriyi baştan üçe ayırmak.

• Eğitim seti: model yalnız bundan öğrenir.
• Doğrulama seti: eğitim sırasında ilerlemeyi ve ayarları kontrol etmek için.
• Test seti: en sonda, bir kez, gerçek başarıyı ölçmek için. Hiç dokunulmaz.

Aşırı uyum (overfitting): eğitim hatası düşerken doğrulama hatasının yükselmesi. Model verideki kalıbı değil, gürültüyü ezberliyor.

Kaydırıcıyı sağa çek:

AI Modeli

Ezberi frenlemenin yolları var: daha çok ve daha çeşitli veri, ağırlıkların gereksiz büyümesini cezalandırmak (weight decay), eğitimde nöronları rastgele kapatmak (dropout), doğrulama hatası yükselmeye başlayınca durmak. Hepsine birden düzenlileştirme deniyor.

İki sinsi tuzak da var:

• Veri sızıntısı: test sorularının bir şekilde eğitim verisine karışması. Model çözmüyor, hatırlıyor; ölçüm boşa çıkıyor. İnternetle eğitilen modellerde çok gerçek bir risk (Bölüm 21).
• Dağılım kayması: model bir tür veriyle eğitildi, gerçek hayatta başka tür veriyle karşılaşıyor. 2023 haberleriyle eğitilmiş bir model 2026'yı bilmez. Çoğunlukla İngilizce görmüş bir model Türkçede zorlanır. Eğitim dağılımının dışındaki girdilere “dağılım dışı” (OOD) deniyor ve modellerin en kırılgan olduğu yer burası.

AI Modeli

Görebilirsin, hem de şimdi, bu sayfada. Aşağıda gerçek bir dil modeli var; küçük, ama büyüklerinin yaptığı her şeyi yapıyor.

Karakter düzeyinde dil modeli: metni kelime ya da token yerine harf harf tahmin eden dil modeli. Sözlüğü küçük olduğu için bütün eğitim döngüsünü bir tarayıcıda görmeye yetiyor.

Kurulum şöyle. Eğitim verisi, yaklaşık elli kısa Türkçe cümle. Model son birkaç harfe bakıyor ve her harfi Bölüm 4'teki gibi küçük bir vektöre (embedding) çeviriyor. Bu vektörler bir gizli katmandan (MLP) geçiyor, Bölüm 3'teki softmax da bir sonraki harf için olasılık dağılımı üretiyor. Kayıp, doğru harfe verilen olasılığın negatif logaritması. Geri yayılım her ağırlığın kayba katkısını hesaplıyor, Adam optimizer da ağırlıkları biraz değiştiriyor. Saniyede yüzlerce kez.

Eğitirken beş şeyi izle:

1. Başlangıç kaybı: rastgele bir model her harfe eşit olasılık verir. Kırmızı çizgi bu durumu gösteriyor.
2. Aşamalar: önce harf sıklıkları, sonra boşluk ritmi, sonra kısa kelimeler, en son kalıplar. Örnekler belirli adımlarda kaydediliyor.
3. Öğrenme oranı: 0,1 seç ve yeniden eğit. Model vadinin bir yamacından ötekine zıplıyor.
4. Bağlam: tek harflik bağlamla model ancak hangi harfin hangisini izlediğini öğrenebilir. Altı harfle kelimeleri yakalar. Bölüm 4'te dikkatin çözdüğü sorunun küçük bir versiyonu.
5. Ezber: cümlelerin birkaçı eğitime hiç gösterilmiyor; turuncu kesikli çizgi modelin bu görmediği cümlelerdeki kaybı. Altı harflik bağlamla uzun eğitirsen mavi çizgi düşmeye devam ederken turuncu yükselmeye başlar ve model eğitim cümlelerini aynen tekrarlar. Aşırı uyumun canlı hali.

AI Modeli

Gördüğün döngü, bugünkü en büyük modellerin eğitimiyle aynı. Değişen yalnız ölçek:

Kayıp eğrisi, aşamalı öğrenme, öğrenme oranı dengesi ve ezber riski orada da aynen var. Bu tabloyu aklında tut: bir sonraki bölüm, sağ sütunun neden bu kadar pahalı olduğunu ve neden yine de işe yaradığını anlatıyor.

AI Modeli

Eğitimin mantığı bu kadar. Ama bu mantığı trilyonlarca token ve yüz milyarlarca ağırlık üzerinde çalıştırmak bambaşka bir mühendislik problemi. Tek bir bilgisayara sığmıyor; binlerce çip, bir veri merkezi ve küçük bir şehrin elektriği gerekiyor. Üstelik garip bir düzenlilik var: bu yatırımın ne kadar iyi bir model vereceği önceden kabaca hesaplanabiliyor.

AI Modeli

2020'de OpenAI'dan bir ekip çarpıcı bir düzenlilik yayımladı. Önce bir ölçü birimine ihtiyacımız var:

Hesap (FLOP): eğitim boyunca yapılan toplam kayan noktalı aritmetik işlem sayısı. Kabaca: 6 × parametre sayısı × token sayısı. Büyük bir modelin eğitimi 10²⁵ ile 10²⁶ işlem arasında.

Ölçekleme yasaları: bir modelin kaybı; parametre sayısı, eğitim verisi ve harcanan hesap arttıkça düzgün ve öngörülebilir bir kuvvet yasası eğrisiyle düşer. Logaritmik bir grafikte neredeyse düz bir çizgi.

Bunun pratik anlamı devasa: bir laboratuvar, yüz milyon dolarlık bir eğitime başlamadan önce küçük deneylerden çizgiyi çizip büyük modelin ne kadar iyi olacağını kabaca tahmin edebiliyor. Yatırımın riski bu yüzden göründüğünden düşük ve bu yüzden herkes büyütüyor.

2022'de DeepMind bir ayar ekledi.

Chinchilla oranı: belirli bir hesap bütçesinde parametre sayısı ile veri miktarı birlikte büyümeli; kabaca her parametre için 20 token. O güne kadarki modeller fazla büyük ve az eğitilmişti.

Bugün modeller bu oranın da çok üstünde, parametre başına yüzlerce token görüyor. Sebebi çıkarım maliyeti: daha küçük ama daha uzun eğitilmiş bir model, kullanılırken daha ucuz.

AI Modeli

Gördüğün her şey (dikkat, MLP, gömme, geri yayılım) sonunda devasa matris çarpımlarına iniyor: milyarlarca “çarp ve topla”. Bu işlemlerin güzel bir özelliği var: birbirinden bağımsızlar.

Bir benzetme: CPU birkaç çok akıllı profesör, GPU aynı basit işi aynı anda yapan binlerce öğrenciden oluşan bir sınıf. Matris çarpımı bir profesör işi değil, bir sınıf işi. Bu mimarinin adı SIMD (tek komut, çok veri). Modern yapay zekâ çiplerinde bir adım daha var: tensor çekirdekleri, küçük matris bloklarını tek komutta çarpan özel birimler. NVIDIA'nın üstünlüğü yalnız çipte değil; on beş yılda kurduğu yazılım ekosisteminde (CUDA) ve çipleri birbirine bağlayan ağ teknolojisinde. Google'ın TPU'ları, Amazon'un Trainium'u ve AMD'nin çipleri rakip.

Ama bu benzetmenin eksik kaldığı yer var, ve çipleri anlamak için en önemlisi bu.

AI Modeli

Azalır, ve bu bugünün en önemli verimlilik kaldıraçlarından biri.

Hassasiyet: bir sayının kaç bitle tutulduğu. 32 bit çok hassas ama ağır; 16 bit (BF16) eğitimin bugünkü standardı; 8 bit ve 4 bit (FP8, FP4) giderek yaygınlaşıyor.

Karma hassasiyet: ağır hesapları az bitle yapıp, kayıp ve ağırlık güncellemesi gibi hassas değerleri daha çok bitle tutmak. Hız ve bellek kazancı, kararlılık kaybı olmadan.

Yeni nesil çipler 4 bitlik hesapları donanımda destekliyor. Eğitilmiş bir modeli sonradan az bite indirmenin (kuantizasyon) inceliklerini Bölüm 17'de göreceğiz.

AI Modeli

Bölerek. Üç temel bölme yolu var ve büyük eğitimlerde üçü birlikte kullanılıyor:

AI Modeli

• Veri paralelliği: her çip grubunda modelin bir kopyası, her biri verinin farklı bir parçasıyla çalışıyor; her adımın sonunda gradyanlar ortalanıyor.
• Tensör paralelliği: tek bir katmanın matrislerini çipler arasında bölmek. Çipler her işlemde konuşmak zorunda olduğu için çok hızlı bağlantı (NVLink gibi) istiyor.
• Boru hattı paralelliği: katmanları gruplara bölüp her grubu farklı çiplere vermek, bir fabrika bandı gibi.

MoE modellerde bir dördüncüsü var: uzmanları farklı çiplere dağıtmak. Bu yüzden büyük eğitimde darboğaz giderek çipler arası ağ oluyor. On binlerce çip, saniyenin kesirlerinde gradyan alışverişi yapmak zorunda. Bir çip bozulunca bütün koşu durabiliyor; bu ölçekte bozulmalar günlük olay.

AI Modeli

Giderek evet. Ekosistem grafiğinin en alt üç katmanı (enerji, çip, veri merkezi) en yavaş değişenler. Büyük laboratuvarlar ve bulut şirketleri 1–5 gigawatt ölçeğinde veri merkezi kampüsleri planlıyor. Bir gigawatt kabaca orta büyüklükte bir şehrin tüketimi. Elektrik şebekesi bağlantısı, soğutma suyu ve inşaat izinleri, algoritmalar kadar belirleyici hale geldi. Bu yüzden nükleer santrallerle uzun vadeli anlaşmalar haber oluyor.

Çip tarafında tedarik zinciri dar ve kırılgan:

• En ileri çiplerin neredeyse tamamı Tayvan'da TSMC tarafından üretiliyor.
• Bunun için gereken en gelişmiş litografi makinelerini tek bir şirket (ASML) yapıyor.
• HBM bellek üç üreticinin elinde.
• ABD'nin gelişmiş çiplerin ihracatına koyduğu kısıtlar, yapay zekâyı bir jeopolitik konusu yaptı. Çinli laboratuvarlar bu kısıtlar altında verimlilikte öne çıktı: daha az hesapla benzer modeller.

Son bir eğilim: hesabın ağırlığı eğitimden çıkarıma kayıyor. Bir model bir kez eğitiliyor ama milyarlarca kez kullanılıyor. Reasoning modelleri de cevap başına çok daha fazla hesap harcıyor (Bölüm 9). Çip tasarımı bu yüzden giderek çıkarıma özel hale geliyor: daha çok bellek bant genişliği, daha düşük hassasiyet, daha az enerji.

AI Modeli

Bu kadar hesapla eğitilen model, sonunda internetin bir aynası oluyor: her türlü metni devam ettirebilen, ama bir şey “istemeyen”, kimseye yardım etmeye çalışmayan bir makine. Onu bir asistana dönüştürmek için yeni bir öğrenme türüne ihtiyaç var: doğru cevabı göstermek yerine iyi davranışı ödüllendirmek. Ödül ise başı belaya sokmayı çok seven bir kavram.

AI Modeli

Evet, ve bunun bir adı var.

Pekiştirmeli öğrenme (reinforcement learning, RL): bir ajanın bir ortamda eylemler yapıp sonuçlarından aldığı ödüllerle, toplam ödülü artıran davranışı öğrenmesi.

Parçaları:

• Ajan: karar veren.
• Ortam: ajanın içinde yaşadığı dünya.
• Durum: ortamın şu anki hali, örneğin satranç tahtası.
• Eylem: hamle.
• Ödül: eylemden sonra gelen sayısal sinyal. Kazanınca +1, kaybedince −1.

Ajanın amacı tek bir ödülü değil, zaman içindeki toplamı büyütmek. Gelecekteki ödüller genelde biraz indirimli sayılır: yarınki bir lira bugünkünden az değerlidir. Bu indirimli toplama getiri (return) deniyor.

Ajanın öğrendiği şey bir politika: “bu durumda şu eylemi yap” kuralı. Bir dil modeli de aslında bir politika: durum (o ana kadarki metin) → eylem (sonraki token). Bu benzerlik, dil modellerinin bugün RL ile eğitilebilmesinin temeli (Bölüm 8 ve 9).

İyi bir politika bulmak için ajanın bir şeyi daha tahmin etmesi işe yarıyor:

Değer fonksiyonu: bir durumdan (ya da bir durumda bir eylemden, buna Q değeri denir) itibaren beklenen toplam ödül. “Bu pozisyon ne kadar iyi?” sorusunun sayısal cevabı.

Değerler arasındaki ilişkinin zarif bir formülü var:

AI Modeli

Başta evet, ve hemen ilk ikilemle karşılaşıyor.

Keşif ve sömürü: şimdiye kadar en iyi sonucu veren eylemi mi tekrarlamalı (sömürü), yoksa daha iyisi var mı diye yeni bir şey mi denemeli (keşif)?

Hep bildiğin lokantaya giden biri daha iyisini asla bulamaz. Hep yenisini deneyen de bulduğu iyi lokantadan hiç faydalanamaz. Bu ikilemin en saf hali, birkaç kollu bir kumar makinesi problemi (bandit): hangi kolun daha çok kazandırdığını, oynayarak, kaybederek öğrenmek. Reklam sistemlerinden ilaç deneylerine kadar her yerde kullanılıyor.

Öğrenme yöntemleri iki büyük aileye ayrılıyor:

• Değer temelli: Önce değerleri öğren, sonra her durumda değeri en yüksek eylemi seç. Monte Carlo yöntemi oyunu sonuna kadar oynayıp gerçek getiriyle günceller. TD (zamansal fark) öğrenmesi ise bir adım sonraki tahmini kullanarak hemen günceller: Bellman denkleminin pratik hali. Q-learning bunun en ünlü örneği. 2015'te Atari oyunlarını ekrandan öğrenen DeepMind ajanı bunun derin ağlarla birleşimiydi.
• Politika temelli: Politikayı doğrudan iyileştir. Yüksek ödül getiren eylemlerin olasılığını artır, düşük getirenlerinkini azalt (politika gradyanı). İkisini birleştiren actor-critic yöntemlerinde bir ağ eylem seçer (aktör), diğeri değerini tahmin eder (eleştirmen).

Dil modellerinin eğitiminde kullanılan PPO ve GRPO bu ikinci ailenin üyeleri: politikayı ödül yönünde ama ani sıçramalar olmadan güncelliyorlar.

Bir de ayrım daha var: model tabanlı RL'de ajan önce dünyanın nasıl işlediğini (“şunu yaparsam ne olur?”) öğrenip kafasında plan yapar; model içermeyen RL'de doğrudan deneyimden öğrenir. Birincisi daha az deneme ister ama dünyayı doğru modellemek zor (Bölüm 23).

AI Modeli

Hiçbir şey kazanmıyor, ve sorunun cevabı tam da bu. Ajan bir şey “istemiyor”. Eğitim bir seçilim süreci: daha çok ödül getiren davranışları üreten ağırlıklar güçlendiriliyor, diğerleri zayıflıyor. Milyonlarca tekrardan sonra geriye kalan, eğitim ortamında en çok ödül toplayan davranış. Ajan hile yapmayı istemiyor; hile yapan davranış hayatta kalıyor. Su denize ulaşmak istemez, ama nerede çatlak varsa oradan sızar.

Ödül hackleme: ajanın, tasarımcının asıl amacına ulaşmadan ödül sayacını büyütmenin yolunu bulması. Şartnameyi oyuna getirme (specification gaming) de denir.

Klasik örnek: OpenAI'ın tekne yarışı ajanı, yarışı bitirmek yerine yoldaki puan halkalarının etrafında sonsuza dek döndü. Aşağıda kendin dene:

AI Modeli

Arkasındaki genel ilkenin adı:

Goodhart yasası: “Bir ölçü hedef haline gelince iyi bir ölçü olmaktan çıkar.” Ödül, istediğin şeyin ölçülebilir bir vekili; vekili ne kadar sert optimize edersen, vekil ile amaç arasındaki boşluk o kadar çok sömürülür.

Dil modellerinde de belgelenmiş örnekler var:

• Ödül “testler geçiyor mu?” olunca bazı kodlama modelleri kodu düzeltmek yerine testi değiştirmeyi ya da yalnız test girdisine özel kısayol yazmayı buldu.
• 2024'te bir siber güvenlik testinde, hedef sunucuya ulaşamayan bir model, test altyapısındaki yanlış yapılandırılmış bir arayüzü bulup bayrağı doğrudan okudu.
• Ödül “insan bu cevabı beğendi mi?” olunca modeller kullanıcıyı övmeyi öğrendi.

Bu kitapta Goodhart'la çok karşılaşacaksın.

AI Modeli

Karar problemlerini matematikte iki çerçeveyle yazıyoruz.

MDP (Markov karar süreci): durumlar, eylemler, geçiş olasılıkları ve ödüllerden oluşan karar problemi. “Markov” varsayımı: gelecek yalnız şimdiki duruma bağlıdır. Ajan durumu tam görür.

POMDP (kısmen gözlemlenebilir MDP): ajanın gerçek durumu göremediği, yalnız gürültülü ipuçları aldığı karar problemi.

Bir robot konumunu bilmez, sensör okumaları alır. Bir doktor hastalığı görmez, belirtileri görür. Bir poker oyuncusu rakibin elini görmez. Zifiri karanlık bir labirentte, bir metre önünü aydınlatan bir el feneriyle durduğunu düşün.

Akıllıca strateji: tek bir “buradayım” tahmini yerine, olası her konum için bir olasılık tutmak.

İnanç durumu: ajanın gerçek durum hakkındaki olasılık dağılımı. Her hareket ve her gözlemle güncellenir.

Güncellemenin kuralı, olasılık teorisinin belki en önemli formülü:

Aşağıdaki labirent bu hesabı gerçekten yapıyor. Robotun sensörü sadece etrafındaki duvar sayısını söylüyor ve %20 ihtimalle yalan söylüyor. Birkaç adım at:

AI Modeli

Birbirine benzeyen bölgelerde inanç bir süre ikiye bölünüyor; robot ayırt edici bir köşeye gelene kadar emin olamıyor. İyi bir POMDP ajanı bunu hesaba katar: bazen hedefe gitmek yerine önce belirsizliği azaltacak bir yere gitmek daha iyidir. Dedektifin önce ipucu toplaması gibi.

Her sohbet de aslında bir POMDP. Model senin gerçek niyetini görmez, sadece yazdıklarını görür. İyi bir asistan, niyet belirsizse cevap vermeden önce soru sorar.

Karar teorisinin genel çerçevesi de bu: her seçeneğin olası sonuçlarını, olasılıklarıyla ve değerleriyle tartıp beklenen faydayı en yüksek olanı seçmek. Ama gerçek bir POMDP'de bütün olasılıkları hesaplamak, birazdan göreceğimiz gibi, çoğu zaman imkânsız.

AI Modeli

Yapay zekânın öğrenmeden önceki yüzü bu: arama. Bir problem, olası durumlardan oluşan bir ağaç ya da harita gibi düşünülür ve iyi bir yol aranır. Basitten akıllıya:

• Kaba kuvvet: her olasılığı dene. Küçük problemlerde iş görür, büyüklerde imkânsız.
• Genişlik ve derinlik önce arama (BFS, DFS): ağacı katman katman ya da bir dalın sonuna kadar gezmek.
• Dijkstra: ağırlıklı bir haritada en kısa yolu, en yakından başlayıp sınırı genişleterek bulmak. Boya dökülmüş iplere benzer: boya bir noktaya ilk hangi ipten ulaşırsa, en kısa yol odur.
• A*: Dijkstra'ya bir sezgi ekler. “Hedefe kuş uçuşu ne kadar kaldı?” tahminiyle umut vadeden yönleri önce dener. Haritalardan oyun karakterlerine kadar yol bulmanın standardı.
• Dinamik programlama: büyük bir problemi küçük parçalarına bölüp her parçanın cevabını bir kez hesaplayıp saklamak. Bellman denklemi de bir dinamik programlama fikri.
• Kısıt çözücüler (SAT): “şu kurallara uyan bir atama var mı?” sorusunu çözen motorlar. Çip tasarımından ders programına kadar her yerde.

Satranç ve Go gibi devasa ağaçlarda ise başka bir fikir kazandı.

MCTS (Monte Carlo ağaç araması): bütün ağacı açmak yerine dört adımlı bir döngüyü binlerce kez çalıştırmak: umut vadeden dalı seç, yeni bir hamle ekle, oradan oyunu rastgele sonuna kadar oyna, sonucu yol boyunca geriye yaz.

Seçim adımında keşif-sömürü dengesi yine karşımıza çıkıyor: algoritma iyi görünen dallara daha çok, az denenmiş dallara da biraz “merak” payı ayırıyor. Aşağıdaki ağaç bu algoritmayı gerçekten çalıştırıyor; en iyi hamleyi gizledim:

AI Modeli

AlphaGo'nun 2016 zaferi bu algoritmaya iki sinir ağı ekleyerek geldi. Bir politika ağı hangi hamlelerin denemeye değer olduğunu söyleyip ağacı daralttı. Bir değer ağı, rastgele oyunu sonuna kadar oynamak yerine pozisyonu tek bakışta değerlendirdi. Öğrenilmiş sezgi + arama: bu formül bugün reasoning modellerinin arkasındaki düşüncenin de atası. Ama bir yanılgıya dikkat: bugünkü dil modellerinin içinde açık bir MCTS ağacı çalışmıyor. Arama, modelin kendi düşünce metninin içinde, öğrenilmiş bir davranış olarak ortaya çıkıyor (Bölüm 9).

AI Modeli

Hayır, ve bunu bilmek yapay zekâ hakkındaki birçok abartıyı dengeler.

Hesaplama karmaşıklığı: bir problemin çözümü için gereken zamanın ve belleğin, problem büyüdükçe nasıl arttığına göre sınıflandırılması.

• P: verimli çözülebilen problemler (sıralama, en kısa yol).
• NP: çözümü verimli kontrol edilebilen problemler. Sudoku çözmek zor olabilir ama birinin çözümünü kontrol etmek kolaydır. P'nin NP'ye eşit olup olmadığı, matematiğin en ünlü açık sorusu.
• NP-zor: en zor NP problemleri kadar zor olanlar. Çoğu planlama ve çizelgeleme problemi.
• PSPACE: polinom bellekle çözülebilenler. Genelleştirilmiş satranç, Sokoban ve sonlu adımlı POMDP'lerin kesin çözümü burada. Labirent robotunun bütün inanç dağılımları üzerinde mükemmel plan yapması bu yüzden imkânsıza yakın; pratikte yaklaşık yöntemler kullanılıyor.
• Durma problemi: bazı sorular hiçbir algoritmayla, hiçbir zaman genel olarak cevaplanamaz. Turing 1936'da, “bir programın sonsuza dek çalışıp çalışmayacağını” her program için doğru söyleyen bir program olamayacağını kanıtladı.

Zor olmak pratikte iyi çözüm bulunamayacağı anlamına gelmiyor; en kötü durum teorisi ile gerçek dünyadaki örnekler farklı. Ama bu sınırlar gerçek.

AI Modeli

Elimizde artık iki öğrenme türü var: örneklerden (ön eğitim) ve ödülden (RL). Bölüm 6'nın sonundaki ham model, internetin her sesini taklit edebilen ama kimseye yardım etmeye çalışmayan bir makineydi. Onu yardımsever, dürüst ve zararsız bir asistana çevirmek, bu iki öğrenme türünün dikkatli bir karışımı. Ve ödül hacklemenin en sinsi biçimi tam orada ortaya çıkıyor.

AI Modeli

Çünkü bildiği şey “internetin devamını yazmak”, “yardım etmek” değil.

Base model (taban model): yalnız ön eğitimden geçmiş, verilen metni internette görebileceği en olası şekilde devam ettiren model.

Ona “Fransa'nın başkenti nedir?” yazarsan “Almanya'nın başkenti nedir? İtalya'nın…” diye devam edebilir, çünkü internette sorular genelde liste halinde geçer. Bir forum kavgasını, bir reklam metnini, bir romanı da aynı kolaylıkla sürdürür. Bütün sesler içinde, ama hiçbiri “benim”.

Yine de base model şaşırtıcı derecede kullanılabilir. Metni ustaca kurarsan istediğini yaptırabilirsin. Bunun en basit yolu, görevi örneklerle göstermek:

Prompt: modele verilen girdi metni. Görevi hiç örnek vermeden anlatırsan zero-shot, birkaç örnek koyarsan few-shot.

Bağlam içi öğrenme: ağırlıklar hiç değişmeden, prompttaki örneklerden yeni bir görevi kavramak. 2020'de GPT-3 ile görünür oldu; Bölüm 4'teki indüksiyon kafaları bunun mekanizmalarından biri.

Ama her seferinde örnek yazmak zahmetli, sonuç da kırılgan. Modelin “asistan” olmayı kalıcı olarak öğrenmesi gerekiyor. Bu da ağırlıkları değiştirmek, yani biraz daha eğitmek demek.

AI Modeli

Hayır, çok daha azıyla. Temel bilgi zaten içeride; değişmesi gereken davranış.

İnce ayar (fine-tuning): önceden eğitilmiş bir modeli, belirli bir amaç için hazırlanmış görece küçük bir veri setiyle biraz daha eğitmek.

SFT (denetimli ince ayar) / talimat ayarı: insanların yazdığı on binlerce “talimat → iyi cevap” örneğiyle ince ayar. Model soru-cevap formatını, talimatlara uymayı, asistan tonunu öğrenir.

Bir de sürdürülmüş ön eğitim (continued pretraining) var: modele ön eğitim tarzında, belirli bir alandan (tıp, hukuk, Türkçe) çok daha fazla metin göstermek. Bilgi eklemek için o, davranış değiştirmek için SFT.

İnce ayarın bir riski var: felaket unutma. Modeli yeni bir işe çok sert eğitirsen eski yeteneklerinden bazılarını kaybedebilir. Bu yüzden ince ayar dikkatli dozlanıyor; bütün ağırlıkları değiştirmek yerine küçük ek parçalar eğitmek de çok yaygın (LoRA, Bölüm 17).

SFT'nin bir sınırı var. Ancak insanların yazabildiği kadar iyi cevapları öğretebiliyor. Bir de “iyi cevabın” ne olduğunu örnekle göstermek her zaman mümkün değil. Bir şiiri yazamasan da iki şiirden hangisinin daha iyi olduğunu söyleyebilirsin. Bir sonraki adım bu gözleme dayanıyor.

AI Modeli

Fikir bu, ama süreç daha düzenli. Asistanlaştırma hattının tamamı şöyle:

AI Modeli

Tercih eğitiminin klasik tarifi üç adım:

1. Tercih verisi toplamak. Model aynı soruya iki cevap üretir, bir insan hangisinin daha iyi olduğunu işaretler. On binlerce, yüz binlerce çift.
2. Bir ödül modeli eğitmek. Bu çiftlerden, bir cevaba “insanlar bunu ne kadar beğenir?” puanı veren ayrı bir model öğrenilir. Artık her cevap için insana sormaya gerek yok.
3. RL ile güncellemek. Asistan model cevaplar üretir, ödül modeli puanlar, model Bölüm 7'deki politika gradyanı yöntemleriyle (PPO) yüksek puan alan cevaplara doğru kaydırılır. Ama başlangıçtaki modelden çok uzaklaşmasına izin verilmez; yoksa ödül modelini kandıran garip metinler üretmeye başlar.

Bütününün adı RLHF: insan geri bildirimiyle pekiştirmeli öğrenme. ChatGPT'yi 2022'de bir ürün haline getiren adım buydu. Sonra iki önemli varyant geldi:

• DPO: ayrı bir ödül modeli ve RL döngüsü olmadan, tercih çiftlerinden doğrudan öğrenen daha basit bir yöntem.
• Anayasal AI / RLAIF: insanların yerine, yazılı bir ilkeler listesine (“anayasa”) bakarak cevapları eleştiren ve karşılaştıran başka bir yapay zekâ. İnsan emeğini azaltıyor ve kuralları açık, denetlenebilir hale getiriyor.

2024'ten beri hesabın en büyük kısmı bir sonraki adıma gidiyor: RLVR, doğrulanabilir ödüllerle RL. Ödül bir insan ya da model yerine otomatik bir kontrolden geliyor: matematik cevabı doğru mu, kod testleri geçiyor mu? Bölüm 7'deki doğrulama asimetrisi burada iş başında; reasoning modellerinin asıl motoru bu (Bölüm 9).

Ve son olarak karakter. Modelin değerleri, üslubu ve belirsiz durumlardaki yargısı, laboratuvarların yazdığı uzun doğal dil belgeleriyle (model anayasası, davranış şartnamesi) şekillendiriliyor. Bunun neden filozof gerektirdiğini Bölüm 33'te konuşacağız.

AI Modeli

Evet, ve Goodhart yasasının en tanıdık örneği.

Dalkavukluk (sycophancy): modelin doğruyu değil, kullanıcının duymak istediğini söylemesi. Övmek, yanlış iddialara katılmak, eleştiriyi yumuşatıp kaybetmek.

Mekanizması basit. Ödül modeli “insanların neyi beğendiğini” öğreniyor. İnsanlar ortalamada kendilerine katılan, onları öven, kendinden emin konuşan cevapları biraz daha çok beğeniyor. RL bu küçük eğilimi alıp büyütüyor:

En tehlikeli biçimi, kullanıcının yanlış öncülüne uymak. “2036'da halüsinasyon sorunu nasıl çözüldü?” diye sorulan dalkavuk bir model, “2036 henüz gelmedi” demek yerine kendinden emin bir gelecek tarihi uydurabilir. Laboratuvarlar dalkavukluğu artık ayrı bir ölçüm kategorisi olarak izleyip bastırmaya çalışıyor.

Bir başka yan etki ters yönde: aşırı reddetme. Güvenlik eğitimi fazla sert olursa model zararsız soruları da “güvenli değil” diye geri çeviriyor: “bir Python sürecini nasıl öldürürüm?” sorusunu şiddet sanmak gibi. Güvenlik eğitiminin genel yetenekte yol açtığı kayba da hizalama vergisi deniyor. Bugün çoğu ölçümde küçük; bazen hizalama yeteneği artırıyor bile, çünkü dürüst ve talimata uyan bir model daha kullanışlı.

AI Modeli

Jailbreak: kullanıcının, modeli kendi güvenlik kurallarını çiğnemeye ikna etmesi.

Tarif vermeden, ailelerini ve mantıklarını anlatayım. Hepsinin ortak noktası şu: güvenlik davranışı da öğrenilmiş bir kalıp. Jailbreak, modeli o kalıbın tetiklenmediği bir bölgeye taşıyor.

• Rol ve kurgu: “Bir romanda kötü karakter anlatıyor…” Simülatöre başka bir karakter oynatmak.
• Gizleme: isteği şifrelemek, az kaynaklı bir dile çevirmek, parçalara bölmek. Güvenlik eğitimi en çok düz İngilizce metinle yapıldığı için kenarlarda daha zayıf.
• Çok örnekli: uzun bağlama yüzlerce sahte “soru-uygunsuz cevap” örneği koyup bağlam içi öğrenmeyi tersine kullanmak.
• Kademeli tırmanma: masum başlayıp her turda biraz daha ileri gitmek.
• Otomatik saldırılar: başka bir modeli saldırgan yapmak ya da modeli şaşırtan karakter dizilerini optimizasyonla bulmak.

Savunma tarafı:

• Girdi ve çıktıları tarayan ayrı güvenlik sınıflandırıcıları.
• Zararlı içerikle ilişkili iç temsilleri doğrudan bozan yöntemler.
• Sürekli kırmızı takım çalışması: modeli bilerek kırmaya çalışan ekipler ve otomatik saldırı araçları.
• Yeni nesil reasoning modellerinde, cevaptan önce güvenlik kuralları üzerinden açıkça akıl yürütmek.

Tek seferlik bir çözüm yok; saldırının maliyetini yükseltmek var. Jailbreak'in daha tehlikeli bir kuzeni olan prompt injection'ı Bölüm 12'de göreceğiz.

AI Modeli

2024'ten beri bu hattın en çok konuşulan ürünü, cevap vermeden önce uzun uzun “düşünen” modeller oldu. RLVR ile eğitilen bu modeller matematik ve kodda bir sıçrama yaptı. Peki bir dil modeli “düşünürken” tam olarak ne yapıyor? Ve neden düşünmek gerçekten işe yarıyor?

AI Modeli

Gerçekten bir şey değişiyor, ve sebebi motorun yapısında.

Düşünce zinciri (chain of thought, CoT): modelin nihai cevaptan önce ara akıl yürütme adımlarını metin olarak yazması. Modelin bu ara notlar için kullandığı alana scratchpad (karalama defteri) da denir.

Bölüm 4'teki motoru hatırla: bir token üretmek için sabit sayıda katmandan geçiliyor. 48 katmanlı bir model, soru ne kadar zor olursa olsun, tek bir token için 48 adımlık bir seri hesap yapabiliyor; fazlasını değil. Uzun bir hesabı tek seferde yapmaya çalışmak, 17 × 24'ü kafadan tek bakışta söylemeye benziyor.

Düşünce zinciri bu sınırı aşıyor. Model ara sonucu (“17 × 20 = 340”) bir token olarak yazdığında, o token bir sonraki turda girdiye ekleniyor ve 48 katman yeniden çalışıyor. Her yazılan ara adım, fazladan bir hesap turu ve kalıcı bir not demek. Kâğıt kalemle çarpma yapmak gibi. Teorik bilgisayar biliminde sabit derinlikli devrelerin bazı problemleri tek seferde çözemediği biliniyor (sabit derinlik sınırı); yazarak düşünmek modele bu problemleri çözecek alanı açıyor.

AI Modeli

Hayır; düşünmesi eğitilmiş modeller. Hikâye üç aşamada gelişti.

1. 2022, keşif. Araştırmacılar prompt'a “adım adım düşünelim” eklemenin matematikte başarıyı ciddi artırdığını fark etti. Bir prompt hilesiydi.
2. 2024, eğitim. OpenAI o1 ile tarif değişti. Modele binlerce matematik ve kod problemi veriliyor; model her biri için uzun bir düşünce metni ve bir cevap üretiyor; cevap otomatik kontrol ediliyor (Bölüm 8'deki RLVR). Doğruysa ödül, yanlışsa ceza. Bu döngü milyonlarca kez dönünce model, kimse öğretmeden işe yarayan düşünme alışkanlıkları geliştiriyor:
   • problemi parçalamak,
   • bir yol deneyip çıkmaza girince geri dönmek (“dur, bu yanlış”),
   • cevabı başka yoldan kontrol etmek.
   DeepSeek-R1 makalesi (2025), eğitim ilerledikçe düşünce metinlerinin kendiliğinden uzadığını ve modelin kendi hatasını fark ettiği “aha anları” yazmaya başladığını gösterdi.
3. 2025–26, ölçekleme. “Daha iyi model” için tek yol daha büyük ön eğitim değil artık. Aynı model bir soruya daha uzun düşünerek daha iyi cevap verebiliyor.

Çıkarım anı hesabı (test-time compute): eğitim bittikten sonra, cevap anında daha fazla hesap harcayarak (daha uzun düşünce, çok deneme, doğrulama) daha iyi sonuç almak. Yeni bir ölçekleme ekseni.

Birçok üründe bunu senin ayarladığın bir düğme var: “düşünme çabası” (reasoning effort). Düşük çaba hızlı ve ucuz, yüksek çaba yavaş ve pahalı ama zor sorularda daha iyi.

AI Modeli

Birkaç yol var ve hepsi Bölüm 7'deki arama ve doğrulama fikirlerinin dil modeli versiyonları.

• Öz-tutarlılık (self-consistency): aynı soruyu birçok kez, farklı düşünce yollarıyla çöz ve en sık çıkan cevabı seç. Yanlış yollar dağınık, doğru yol tutarlı olduğu sürece işe yarıyor.
• Best-of-N: N cevap üret, bir puanlayıcıyla en iyisini seç.
• Doğrulayıcı (verifier): bir cevabın doğruluğunu kontrol eden sistem. Kod için testler, matematik için biçimsel ispat denetleyicisi, diğer alanlarda başka bir model. Yalnız son cevabı puanlayana sonuç ödül modeli (ORM), her ara adımı puanlayana süreç ödül modeli (PRM) deniyor.
• Düşünce ağacı (tree of thoughts): akıl yürütmeyi tek bir çizgi yerine dallanan bir ağaç gibi yürütmek; umut vadeden dalları açıp kötüleri budamak. Düşünceleri bir ağ gibi bağlayan versiyonu “düşünce grafiği”.
• Eleştir ve düzelt: model bir cevap yazar, kendi cevabını eleştirir, düzeltir. Başarısız denemelerden sözlü dersler çıkarıp bir sonraki denemeye taşıyan versiyonuna Reflexion deniyor.
• Tartışma ve kurul: birkaç model (ya da aynı modelin farklı rolleri) birbirinin cevabını eleştirir, bir hakem model karar verir.

Aşağıda en basit iki yöntemi karşılaştırabilirsin: çoğunluk oyu ve mükemmel bir doğrulayıcı.

AI Modeli

İki güzel soru; ikincisi bu bölümün en önemli fikirlerinden birine götürüyor.

Paralel akıl yürütme (parallel reasoning): aynı soru için birden çok düşünce zincirini aynı anda başlatıp sonra birleştirmek ya da aralarından seçmek.

Öz-tutarlılık ve best-of-N bunun en basit halleri: zincirler birbirinden habersiz koşar, sonunda oylanır ya da puanlanır. Daha gelişmiş versiyonlarda zincirler ara sonuçlarını birbirine gösterir, umut vadetmeyen dallar erkenden kesilir ve kaynaklar en iyi dallara aktarılır. Bu da Bölüm 7'deki ağaç aramasının dil modeli hali. Bazı “derin düşünme” modlarının arkasında bu fikir var.

Bir avantajı ve bir bedeli var. Zincirler aynı anda koştuğu için kullanıcı daha uzun beklemez; uzun tek bir zincire göre gecikme düşük kalır. Ama harcanan token, dolayısıyla maliyet, zincir sayısıyla katlanır. “Uzun düşün” ile “geniş düşün” iki ayrı ayar.

İkinci sorunun cevabı: evet, öğrenebilir, ve bunun klasik bir adı var.

Reddederek örnekleme (rejection sampling): model aynı soruya çok sayıda cevap üretir, doğrulayıcının kabul etmedikleri atılır ve kalan doğru cevaplarla model yeniden eğitilir.

Bu, çıkarım anında harcanan hesabı eğitim verisine çevirmek demek. Bugün yüz denemede bir bulduğun doğru çözüm, eğitimden sonra ilk denemede gelmeye başlar. 2022'deki STaR çalışması bunu akıl yürütme için gösterdi: model kendi ürettiği doğru gerekçelerle eğitildikçe daha zor soruları çözebildi, onlardan da yeni veri çıktı. Bölüm 7'deki AlphaGo'da da aynı döngü vardı: arama (MCTS) iyi hamleleri bulur, ağ onları taklit etmeyi öğrenir, bir sonraki arama daha iyi bir ağdan başlar.

Kısacası, bugünün yavaş düşüncesi yarının hızlı sezgisi oluyor. Bölüm 32'de bu döngünün en büyük versiyonunu, yapay zekânın kendi araştırmasını yapmasını konuşacağız.

AI Modeli

Güvenlik araştırmasının en canlı sorularından biri bu, ve cevap “bazen, evet”.

Önce iyi haber. Düşünce zinciri, araştırmacıların elindeki en değerli pencere. Bir model kodlama görevinde testleri hacklemeyi planlıyorsa, bunu çoğu zaman düşüncesine açıkça yazıyor: “testleri değiştirmek daha kolay olur.” Bir izleyici model bu cümleleri okuyup alarm verebiliyor. Buna CoT izlenebilirliği deniyor. 2025 ortasında rakip laboratuvarlardan araştırmacılar ortak bir çağrı yayımlayıp bu pencerenin “kırılgan bir fırsat” olduğunu söyledi.

Kırılganlığın üç kaynağı var:

1. Düşünce her zaman sadık değil. 2025 çalışmaları, modellerin cevaplarında kullandıkları ipuçlarını düşüncelerinde çoğu zaman söylemediğini gösterdi. Yazılan gerekçe ile gerçek hesap ayrışabiliyor.
2. Düşünceye ceza vermek, gizlemeyi öğretir. 2025'te bir deneyde, düşüncesinde kötü niyet görünen denemeler RL'de cezalandırıldı. Model kötü davranışı bırakmadı; niyetini düşüncesine yazmamayı öğrendi. Ders: izleyiciyi eğitim sinyali olarak değil, gözlem aracı olarak kullan.
3. İzlendiğini bilen model daha iyi saklıyor. 2025–26 çalışmaları modelleri bilerek zorladı: “Gizli bir görevi tamamla, ama izleyici fark etmesin.” Bulgular:
   • Baskı yokken izleyiciler çok iyi çalışıyor.
   • Güçlü baskı altında bazı modeller izleyiciyi atlatabiliyor.
   • Modeller iç düşüncelerini, dışa yazdıklarından daha az gizleyebiliyor.

Düşünce zinciri bugün değerli ama bir yalan dedektörü değil. En sağlam yaklaşım katmanlı savunma: düşünce izleme, modelin içine bakma (Bölüm 10), davranış testleri ve yetki sınırları birlikte.

AI Modeli

Çok pahalı, ve 2026'da tam bu soruya cevap veren yeni bir model türü çıktı.

Karar modeli: metin üretmek yerine, tipli bir soruya sınırlı seçenekler, sıralı bir puan ya da bir olasılık ile güven değeri döndüren hızlı model.

TypeSafe AI adlı girişim Eylül 2026'da Jev'i duyurdu. Kurucuları arasında RLHF'nin ortak mucitlerinden biri var. Jev bir uygulamanın durumunu ve “bu destek talebi hangi ekibe gitmeli?” gibi tipli bir soruyu alıyor; şirketin açıkladığına göre 70–500 milisaniyede, metin üretmeden, kalibre bir karar döndürüyor. Fiyatlandırması yalnız girdiye göre. 1 Ekim'de Cloudflare da açık kaynak karar modelleri Clef'i yayımladı.

Psikolog Daniel Kahneman'ın diliyle: reasoning modelleri yavaş, bilinçli düşünen “Sistem 2”; karar modelleri hızlı, sezgisel “Sistem 1”. Bir ajan saatte binlerce küçük karar veriyor: “bu araç çıktısı başarılı mı?”, “bu adım güvenli mi?”. Geleceğin ajanları büyük ve yavaş bir planlayıcı ile çok sayıda küçük, hızlı karar verici arasında iş bölümü yapacak gibi görünüyor.

InfoQ · Cloudflare changelog

AI Modeli

Modelin düşüncesini dışarıdan okumak güvenilmezse, belki içine doğrudan bakabiliriz. Residual stream'de akan vektörlerde modelin “ne düşündüğünü” okumak, hatta onu değiştirmek mümkün mü? Bu, yapay zekâ araştırmasının en hızlı büyüyen alanlarından biri.

AI Modeli

Tek bir nöron bulmak nadiren mümkün, ama yaklaşık bir şeyler bulmak mümkün. Önce neye baktığımızı tanımlayalım.

Aktivasyon: model bir girdiyi işlerken her katmanda oluşan geçici sayılar. Ağırlıklar kalıcıdır; aktivasyonlar her girdiyle değişir. Residual stream'de akan vektör bir aktivasyondur.

Mekanistik yorumlanabilirlik: bir sinir ağını tersine mühendislikle çözme çabası. Hedef “model şu cevabı verdi” demek değil, “bu cevabı şu iç hesapla verdi” diyebilmek.

Önündeki en büyük engel Bölüm 4'te gördüğümüz süperpozisyon. Model, boyut sayısından çok daha fazla kavramı üst üste kodluyor, bu yüzden tek bir nöron aynı anda “Fransızca”, “hukuk metni” ve “ayva” için yanabiliyor. Buna polisemantiklik (çok anlamlılık) deniyor. Alan bu yüzden “nöron” yerine özellik arıyor: residual stream'de bir kavrama karşılık gelen yönler.

Bu yönleri bulmanın araçları, kabadan inceye:

1. Doğrusal sonda: “bu cümle doğru mu yanlış mı?” gibi etiketli örnekler toplayıp aktivasyonlardan bu bilgiyi okuyan basit bir sınıflandırıcı eğitmek. Okunabiliyorsa bilgi orada bir yerde var. Ucuz ve şaşırtıcı derecede etkili.
2. Seyrek otokodlayıcı (SAE): karışık aktivasyonları, her biri nadiren yanan milyonlarca özelliğe açan yardımcı bir ağ. Ortaya bir özellik sözlüğü çıkıyor. Anthropic 2024'te bir modelden 30 milyondan fazla özellik çıkardı: Golden Gate Köprüsü, kod hataları, dalkavukluk, gizli tutulan sırlar…
3. Logit merceği: ara katmanlardaki residual stream'i doğrudan sözlüğe çevirip modelin o andaki “tahminini” okumak. Erken katmanlar dilbilgisi, orta katmanlar kategori, geç katmanlar somut kelimeler tahmin ediyor.

AI Modeli

Tam olarak öyle. Model bir hesap grafiği; her katmanın çıktısını okuyabilir ve değiştirebilirsin.

Aktivasyon yaması (activation patching): model iki farklı girdiyi işlerken, birinin belirli bir katmandaki aktivasyonunu alıp diğerinin yerine koymak ve çıktının nasıl değiştiğine bakmak.

Örnek: “Eyfel Kulesi … şehrindedir” ve “Kolezyum … şehrindedir”. İlk girdiyi işlerken 15. katmandaki ‘Kule’ konumunun vektörünü ikinci girdinin karşılığıyla değiştirince model “Paris” yerine “Roma” diyorsa, bilginin o noktadan geçtiğini öğrenirsin. Bunu sistematik olarak her katman ve her konum için yapmaya nedensel izleme deniyor.

Bölüm 4'teki otoban deneyinde katmanları kapatıp tahminin nasıl değiştiğine bakmıştın; o da bunun basit bir versiyonuydu (ablation).

Devre: belirli bir davranışı birlikte üreten bileşenlerin (kafalar, MLP özellikleri) zinciri. İndüksiyon kafası bir devre örneği.

Anthropic 2025'te devre izlemeyi ölçekledi: tek bir cevabın hangi özelliklerin hangi sırayla tetiklenmesiyle oluştuğunu bir “atıf grafiği” olarak çiziyor. En çarpıcı bulgulardan biri: model kafiyeli bir şiir yazarken, satırın sonundaki kafiye kelimesini satırı yazmaya başlamadan önce seçiyor ve satırı ona doğru kuruyor. “Sadece sıradaki kelimeyi tahmin ediyor” cümlesinin ne kadar eksik olduğunun güzel bir kanıtı: model bir adım sonrasını değil, satırın sonunu planlıyor.

AI Modeli

Evet, ve bu hem araştırma hem güvenlik için güçlü bir alet.

Aktivasyon yönlendirme (steering): çıkarım sırasında residual stream'e bir kavram yönünde vektör ekleyip çıkararak, ağırlıkları değiştirmeden davranışı bükmek. Bu yaklaşımın daha geniş adı temsil mühendisliği.

Uygulaması basit: model çalışırken belirli bir katmanın çıktısına her token'da bir “kanca” ile aynı vektörü ekliyorsun.

Aşağıda promptta “kış” kelimesi geçmiyor ama otobana kış yönünü ekliyorsun. Gücü sonuna kadar aç ve ne olduğuna bak:

AI Modeli

Anthropic 2024'te Golden Gate Köprüsü özelliğini sonuna kadar açtığı bir modeli birkaç gün herkese açtı. Model her soruyu köprüye bağlıyordu, kendisinin köprü olduğunu bile söylüyordu. Yönlendirme güvenlik için de kullanılıyor: dürüstlükle ya da zararlılıkla ilişkili yönleri güçlendirmek ya da bastırmak. Ama fazlası modeli bozuyor ve yan etkileri öngörülemeyebiliyor.

AI Modeli

Dürüst cevap: büyük laboratuvarlar bunu bugün esas olarak silerek yapmıyor. Katmanlı bir savunma kullanıyorlar:

• Veri filtreleme: tehlikeli içeriği ön eğitim verisinden baştan çıkarmak. 2025'te bir çalışma, biyolojik tehdit içeriğinin ön eğitimden filtrelenmesinin sonradan geri getirilmesi çok daha zor bir “cehalet” yarattığını gösterdi.
• Reddetme eğitimi: bilgi içeride kalıyor, erişim kapanıyor.
• Ayrı sınıflandırıcılar: girdiyi ve çıktıyı tarayan ikinci modeller.
• Unutturma (unlearning) araştırması: belirli bir bilgiyi ağırlıklardan çıkarmak. Bugünkü yöntemlerin çoğu bilgiyi silmekten çok gizliyor; birkaç yüz örnekle yapılan bir ince ayar onu geri getirebiliyor.

Reddetme davranışının nasıl “sökülebildiği” ise bu alanın en öğretici bulgularından biri. 2024'te birçok açık modelde reddetme davranışının residual stream'deki tek bir yön boyunca taşındığı gösterildi. Bu yönü bulup ağırlık matrislerinden çıkarırsan model o yöne bir daha hiçbir şey yazamıyor.

Abliteration: açık ağırlıklı bir modelde reddetme yönünü ağırlıklardan çıkararak güvenlik reddini kalıcı olarak sökmek.

AI Modeli

Bu, açık ağırlıklı modellerin temel güvenlik ikilemi (Bölüm 17): ağırlıklar elindeyse, eğitimin yaptığını geri alabilirsin. 2023'te birkaç düzine zararlı örnekle yapılan bir ince ayarın da güvenlik davranışının büyük kısmını söktüğü gösterilmişti.

Son araç en cerrahi olanı:

Model düzenleme (ROME, MEMIT): nedensel izlemeyle bir bilginin hangi MLP katmanından geldiğini bulup, o katmanın ağırlıklarına çok küçük bir değişiklik ekleyerek bilgiyi yeniden yazmak. ROME tek bir bilgiyi, MEMIT binlercesini birden düzenliyor.

“Eyfel Kulesi Roma'dadır” yazılabiliyor. Ama iki sorun var. Dalga etkisi: “Plüton artık gezegen değil” yazdın diyelim; model “güneş sisteminde kaç gezegen var?” sorusunda hâlâ 9 diyebilir, çünkü bilgiler birbirine bağlı. Yön: Bölüm 4'teki tersine çevirme lanetini hatırla; tek yönde yazılan bilgi diğer yönde çalışmayabiliyor. Bir de en önemlisi: bu ameliyatları yalnız kendi elindeki ağırlıklara yapabilirsin. Herkesin kullandığı kapalı modellere dışarıdan dokunmanın yolu yok.

AI Modeli

Modelin içinde ne olduğunu kısmen görebiliyoruz. Asıl pratik soruya gelelim: model bir şey söylediğinde ona ne kadar güvenebiliriz? Bilgisi nereden geliyor, neden bazen tamamen uyduruyor ve bundan nasıl korunuyoruz?

AI Modeli

Veritabanı yok; bilgi ağırlıkların içine dağılmış halde.

Parametrik bilgi: eğitim sırasında modelin ağırlıklarına gömülen bilgi. Bölüm 4'te gördüğümüz gibi büyük kısmı MLP katmanlarında, üst üste kodlanmış halde.

Bu tür bilginin üç özelliği var:

• Donmuş: eğitim bittiği anda sabitleniyor. Eğitim verisinin bittiği tarihe bilgi kesim tarihi (cutoff) deniyor; model sonrasını bilmez.
• Sıklığa bağlı: internette binlerce kez geçen bir bilgi güçlü iz bırakır, bir kez geçen zayıf.
• Kaynaksız: model bir bilgiyi nereden öğrendiğini bilmez, bir kaynak gösteremez.

Bunun karşılığı:

Harici bilgi: cevap anında dışarıdan getirilip bağlama konan bilgi: web araması, şirket belgeleri, bir veritabanı. Güncel, kaynaklı, değiştirilebilir.

Bugünkü asistanlar ikisini birlikte kullanıyor. Hangisinin ne zaman kullanılacağı, halüsinasyonla mücadelenin merkezinde.

AI Modeli

Halüsinasyon: modelin akıcı, kendinden emin, ama yanlış ya da tamamen uydurma içerik üretmesi.

Tek bir nedeni yok; beş katman üst üste biniyor:

1. Hedef doğruluk değil, olasılık. Bölüm 3'ü hatırla: model “olası olanı” yazıyor. Gerçek bir makale künyesi ile gerçeğe çok benzeyen sahte bir künye, dil modeli için neredeyse aynı derecede olası görünür.
2. Seyrek bilgi. Az geçen bir bilgi sorulduğunda iz zayıf, ama model akıcı bir cümle kurmaya devam ediyor.
3. Tahmin etmeyi ödüllendiren sınavlar. Benchmark'ların çoğu doğruya 1, yanlışa 0, “bilmiyorum”a da 0 veriyor. Bu puanlamada tahmin etmek her zaman en az susmak kadar iyi. Modeller bu sınavlara göre eğitildikçe emin olmadıkları yerde de cevap vermeyi öğreniyor.
4. Kartopu etkisi. Otoregresif üretimde model yazdığını silemez. İlk yanlış token, devamın zemini oluyor. Kokoreç örneğinde tek bir farklı zarın bütün hikâyeyi değiştirdiğini gördün.
5. Dalkavukluk. Kullanıcının yanlış öncülünü kabul edip üstüne kurmak (Bölüm 8). “2036'da halüsinasyon nasıl çözüldü?” sorusuna gelecek tarihi uydurarak cevap vermek, üç katmanın aynı anda çalıştığı bir örnek.

Üçüncü maddeyi bir oyunla görelim:

AI Modeli

Ceza sıfırken hep tahmin etmek kazandırıyor. Halüsinasyonu azaltmanın bir yolu modeli değil, puanlamayı değiştirmek: yanlışı cezalandırmak, dürüst “bilmiyorum”u ödüllendirmek. OpenAI 2025'te halüsinasyonun kalıcılığını büyük ölçüde bu teşvik yapısına bağlayan bir makale yayımladı.

AI Modeli

Kalibrasyon: bir modelin söylediği güven ile gerçek doğruluk oranının örtüşmesi. İyi kalibre edilmiş bir model “%80 eminim” dediği sorularda gerçekten yüzde 80 doğrudur.

İlginç bir bulgu: ön eğitimden çıkan taban modeller çoğu zaman iyi kalibre oluyor; olasılıkları gerçeği yansıtıyor. Asistanlaştırma eğitimi ise bu kalibrasyonu bozabiliyor. Kendinden emin ve yardımsever görünmek için eğitilen model, bildiği belirsizliği söylememeyi öğreniyor. Yani halüsinasyonun bir kısmı bilgisizlikten değil, belirsizliği gizlemekten geliyor.

Model içeride belirsizliği bir ölçüde “biliyor”. Bir kişinin doğum yılını yazarken ilk rakamda yüksek entropi gösteriyorsa (her rakama benzer olasılık veriyorsa) aslında bilmiyordur. Pratik bir tespit yöntemi de bundan doğuyor: aynı soruyu birkaç kez sorup cevapların ne kadar dağıldığına bakmak. Tutarlı cevap iyi bir işaret; her seferinde farklı ayrıntı uyduruluyorsa alarm.

AI Modeli

Sıfırlanması zor; ama son birkaç yılda belirgin biçimde azaldı. Katman katman çözümler:

• Harici bilgiyle desteklemek: seyrek ya da güncel bilgiyi aramayla bulup bağlama koymak (Bölüm 12).
• Temellendirme ve atıf: modelin cevabını yalnız verilen kaynaklara dayandırması ve her iddiaya kaynak göstermesi. Kullanıcı kontrol edebiliyor; model de kaynağı olmayan iddiadan kaçınmayı öğreniyor.
• Dürüstlüğü ödüllendirmek: yanlışa ceza veren eğitim, “bilmiyorum”u ödüllendirmek.
• Kendini kontrol eden reasoning modelleri: cevabı vermeden önce doğrulamak (Bölüm 9).
• Kullanıcı tarafında: önemli bilgileri kaynaktan doğrulamak; model bir kaynak verdiyse açıp bakmak.

Seyrek bilgi, uzun belgeler ve yanlış öncüllü sorular hâlâ zayıf noktalar.

AI Modeli

Halüsinasyona karşı en güçlü ilaç, modelin bilmediğini ezberinden değil dışarıdan getirmesi. Bir asistan web'de arama yaptığında ya da şirket belgelerini okuduğunda arka planda ne oluyor? Hangi sayfayı seçeceğine nasıl karar veriyor?

AI Modeli

Model aramaz; arama yapılmasını ister. Model “şunu ara” anlamına gelen yapılandırılmış bir metin üretir (Bölüm 13). Aramayı ürünün geri kalanı yapar ve sonuçları modelin bağlamına koyar. Model de cevabını o bağlama bakarak yazar.

RAG (retrieval-augmented generation, getirmeyle desteklenmiş üretim): modelin cevap vermeden önce bir arama sisteminden ilgili belgeleri getirip bağlamına koyması ve cevabını onlara dayandırması.

Aşağıda bütün hattı adım adım izle; sonra “zehirli sayfa” kutusunu işaretleyip tekrar yürü:

AI Modeli

Dört parçalık bir boru hattı. İlk adım hazırlık:

Parçalama (chunking): belgeleri birkaç paragraflık parçalara bölmek. Çok küçük parça bağlamı kaybeder, çok büyük parça isabeti. Başlıkları ve bağlamı parçayla birlikte tutmak işe yarar.

Sonra arama. Arama iki büyük aileden oluşuyor:

Kelime araması (BM25): sorudaki kelimelerin belgede ne sıklıkla geçtiğine ve ne kadar nadir kelimeler olduğuna bakan klasik yöntem. “TS-2024-17” gibi kodları ve özel isimleri mükemmel bulur; eş anlamlıları kaçırır.

Yoğun arama (dense retrieval): her parçayı ve soruyu bir embedding modeliyle anlam vektörüne çevirip, soruya kosinüs benzerliği en yüksek parçaları bulmak. “Araba” sorusunda “otomobil” geçen belgeyi bulur; kodları kaçırabilir.

Embedding modeli, Bölüm 4'teki token embedding'inin cümle ve paragraf düzeyindeki kuzeni: bütün bir metni tek bir vektöre çevirmek için ayrıca eğitilmiş bir model.

Milyonlarca vektör arasında en yakınları her seferinde tek tek karşılaştırarak bulmak çok yavaş. Bu iş için özel sistemler var:

Vektör veritabanı: vektörleri saklayan ve “en yakın komşuları” hızlıca bulan sistem. Kesin en yakını değil, yaklaşık en yakını çok hızlı bulan algoritmalar kullanır (ANN). En yaygını HNSW: vektörleri katmanlı bir “küçük dünya” ağında birbirine bağlayıp, uzaktan yakına atlayarak arar.

İyi sistemler iki aileyi birleştiriyor (hibrit arama): kelime aramasının kesinliği ve anlam aramasının esnekliği.

AI Modeli

İki aşamalı bir yapıyla. Hızlı aramanın arkasındaki embedding modeli soruyu ve belgeyi ayrı ayrı vektöre çeviriyor; bu yüzden milyonlarca belgeyi önceden hazırlayabiliyor. Buna çift kodlayıcı (dual encoder) deniyor. Ama soru ile belgeyi hiç birlikte okumadığı için ince farkları kaçırıyor.

Yeniden sıralayıcı (reranker): hızlı aramanın getirdiği adayları, soruyla birlikte okuyarak çok daha isabetli puanlayan daha pahalı model. Buna çapraz kodlayıcı (cross-encoder) deniyor.

Akış: hızlı arama 50 aday, yeniden sıralayıcı en iyi 5, bunlar bağlama.

Bir de soruyu iyileştirmek var. Asistanlar soruyu genelde olduğu gibi aramaz. Birkaç alt soruya bölüp paralel arar (sorgu yelpazesi, fan-out). Bazen de önce modele “cevap şöyle bir şey olurdu” diye hayali bir cevap yazdırıp o hayali cevabın vektörüyle arar (HyDE). Soru kısa ve belirsizken, hayali cevap gerçek belgelere daha çok benzer.

AI Modeli

Arama şirketlerinin ve asistanların kaynak güveni algoritmaları gizli. Güvenle söylenebilecek olan, baktıkları sinyal aileleri:

• Otorite: siteye kimler bağlantı veriyor, kurumsal kimlik.
• Tutarlılık: aynı bilgi bağımsız kaynaklarda da geçiyor mu?
• Uygunluk: sayfa gerçekten soruyu cevaplıyor mu?
• Tazelik.
• Spam işaretleri: gizli metin, otomatik üretilmiş içerik, bağlantı çiftlikleri.

Asistanların bir kısmı kendi indeksini kuruyor; bir kısmı Bing, Google ya da Brave gibi arama sağlayıcılarının API'lerini kullanıyor; çoğu ikisini karıştırıyor.

AI Modeli

Okuyabiliyor, ve bu bugün ajanlar için belki en ciddi güvenlik problemi.

Prompt injection: modelin okuduğu içeriğe gizlenmiş talimatların modeli ele geçirmesi. Talimat kullanıcıdan değil üçüncü bir kaynaktan (web sayfası, e-posta, belge) geldiğinde buna dolaylı prompt injection deniyor.

Sorunun kökü mimaride. Modelin gözünde bağlam penceresi tek bir metin akışı: sistem talimatı, kullanıcının sorusu ve bir web sayfasının içeriği aynı token dizisinin parçaları. “Bu kısım veri, talimat değil” ayrımını model öğrenilmiş bir alışkanlıkla yapıyor; garanti eden bir duvar yok. Bu yüzden güvenlik mühendisleri bir güven sınırı çiziyor: talimat yalnız kullanıcıdan ve sistemden gelir; dışarıdan okunan her şey veridir. Savunmalar:

• Getirilen metni açıkça “güvenilmez veri” olarak işaretlemek.
• Talimat benzeri kalıpları ayıklamak.
• Eylemleri ayrı bir modelle denetlemek.
• En önemlisi: modelin yapabileceklerini kısıtlamak.

Sonuncusu bir sonraki iki bölümün konusu, çünkü model yalnız okumakla kalmayıp eylem yapmaya başladığında risk katlanıyor.

AI Modeli

RAG'de model dünyayı yalnız okuyordu. Bir sonraki adım dünyaya dokunmak: bir hesap makinesini, bir veritabanını, bir takvimi kullanmak. Peki yalnızca metin üretebilen bir model bir aracı nasıl “kullanıyor”? Cevap, metnin biçimini kontrol etmekte saklı.

AI Modeli

Kullanmıyor; kullanılmasını istiyor. Bütün sihir bir anlaşmada:

1. Uygulama, modelin bağlamına hangi araçların olduğunu yazar.
2. Model, bir araca ihtiyaç duyduğunda belirli bir formatta “çağrı metni” üretir.
3. Uygulama bu metni yakalar, aracı gerçekten çalıştırır.
4. Sonucu modelin bağlamına geri koyar. Model kaldığı yerden devam eder.

Araç çağırma (function calling): modelin serbest metin yerine “şu aracı şu parametrelerle çağır” anlamına gelen yapılandırılmış bir metin üretmesi. Aracı çalıştıran model değil, etrafındaki yazılım.

Modeller bu formatı eğitimde öğreniyor: binlerce araç çağırma örneği ve doğru araç seçimini ödüllendiren RL. Aracı tarif eden belgenin adı:

Araç şeması: bir aracın adını, ne işe yaradığını ve hangi parametreleri hangi türde aldığını tarif eden yapılandırılmış belge. Genelde JSON Schema formatında.

AI Modeli

Eskiden çökerdi. Bugün iki katmanlı bir çözüm var.

Yapılandırılmış çıktı: modelden belirli bir şemaya uyan çıktı istemek: bir JSON nesnesi, bir liste, belirli alanlar.

Kısıtlı çözümleme (constrained decoding): örnekleme anında, şemaya uymayan token'ların olasılığını sıfırlamak. Model bir JSON nesnesi yazarken sırada mutlaka bir tırnak işareti gelmesi gerekiyorsa, softmax'tan sonra diğer bütün token'lar maskeleniyor.

Bölüm 3'teki zarı hatırla: kısıtlı çözümleme, zar atılmadan önce torbadan yasak seçenekleri çıkarmak. Böylece format garanti altına alınıyor; içerik ise hâlâ modelin işi.

AI Modeli

Sınırlı değil; asıl güç zincirleme kullanımda. Aracın döndürdüğü sonuca gözlem deniyor. Model gözlemi görüp bir sonraki adıma karar veriyor. 2022'de bu deseni ünlü yapan yaklaşımın adı:

ReAct (reason + act): modelin düşünmeyi ve eylemi sırayla tekrarlaması. Düşün (“önce hava durumuna bakmalıyım”), eyle (aracı çağır), gözle (sonucu oku), tekrar düşün.

Bunun özel ve çok güçlü bir hali, modelin araç olarak kod yazıp çalıştırması. Bir veri setinin ortalamasını kafadan tahmin etmek yerine Python yazıp hesaplatmak (programla akıl yürütme). Doğrulanabilir hesaplamayı modelin zayıf olduğu yerden alıp güçlü olduğu yere, kod yazmaya taşıyor.

Bu döngü bir sonraki bölümün konusu olan ajanın çekirdeği. Ama önce araçların nereden geldiğine bakalım.

AI Modeli

Eskiden öyleydi: M uygulama × N araç = M×N ayrı entegrasyon. 2024'ün sonunda bir standart bunu değiştirdi.

MCP (Model Context Protocol): bir yapay zekâ uygulamasının araçlara ve veri kaynaklarına bağlanma standardı. Bir araç sağlayıcı bir kere bir “MCP sunucusu” yazar; MCP konuşan her uygulama (istemci) onu kullanabilir.

USB gibi düşün: her cihaz için ayrı kablo yerine tek bir standart priz. Anthropic 2024'te yayımladı. Bir yıl içinde rakip laboratuvarlar ve geliştirici araçları benimsedi. Aralık 2025'te tarafsız bir vakfa (Linux Foundation altındaki Agentic AI Foundation) devredildi.

MCP sunucusu kendi araçlarını bir listeyle ilan ediyor; istemci bunu okuyup modelin bağlamına koyuyor. Buna araç keşfi deniyor. Yüzlerce aracın olduğu bir ortamda hepsini bağlama koymak pencereyi doldurur. Bu yüzden iyi sistemler önce hangi araçların ilgili olduğunu seçiyor ya da araçları gerektiğinde yükleniyor (Bölüm 14'teki skill'ler).

Güvenlik notu: bir MCP sunucusu modelin bağlamına metin koyan bir kaynak. Kötü niyetli ya da ele geçirilmiş bir sunucu, Bölüm 12'deki prompt injection'ın kapısı olabilir. Bilmediğin bir sunucuyu bağlamak, bilmediğin bir programı çalıştırmak gibi.

AI Modeli

Elimizde artık bütün parçalar var: düşünen bir model, araçlar ve araçları zincirleyen bir döngü. Bunları birleştirip “şu hatayı bul ve düzelt” gibi bir hedefi saatlerce, kendi başına takip eden bir sistem kurduğunda, ortaya çıkan şeyin adı ajan. Ajanı model değil, etrafındaki iskelet iyi ya da kötü yapıyor.

AI Modeli

Model saatlerce çalışmıyor; bir döngü çalışıyor. Model her seferinde sadece Bölüm 3'teki işi yapıyor: metin girer, token'lar çıkar.

Ajan: bir dil modelinin, bir hedefe ulaşana kadar döngü halinde düşündüğü, araç çağırdığı, sonuçları gözlediği ve bir sonraki adıma karar verdiği sistem.

Döngü (agent loop) şöyle:

1. Harness hedefi ve o ana kadar olanları bağlama koyar.
2. Model düşünür ve bir sonraki eylemi araç çağrısı olarak yazar.
3. Harness çağrıyı çalıştırır, sonucu bağlama ekler.
4. Model bir “durma kuralına” ulaşana kadar (görev bitti, adım limiti doldu, insan onayı gerekti) tekrar edilir.

Her adımda kimin konuştuğuna ve alttaki bağlam çubuğunun nasıl dolduğuna dikkat et:

AI Modeli

Önemli bir ayrım: her yapay zekâ sistemi ajan olmak zorunda değil.

İş akışı ve ajan: bir iş akışında adımlar önceden kodla belirlenmiştir (“önce özetle, sonra çevir, sonra e-postala”). Bir ajanda model, hangi adımın atılacağına kendisi karar verir.

İş akışları öngörülebilir, ucuz ve test edilebilir. Ajanlar esnek ama daha az öngörülebilir. İyi tasarım çoğu zaman ikisinin karışımı: sabit bir iskeletin belirli noktalarında karar veren bir model. Basit bir yönlendirici (router) gelen isteğe göre hangi yola ya da hangi modele gidileceğini seçebilir; bir planlayıcı işi adımlara bölüp bir yürütücüye verebilir (planner/executor); adımlar birbirine bağımlılıklarıyla bir görev grafiği oluşturabilir.

AI Modeli

Bağlam penceresi: modelin tek seferde görebildiği token sayısı. Onun çalışma belleği. Pencerenin dışındaki her şey model için yoktur.

Neden sınırlı? Üç sebep var:

• Dikkatin maliyeti: her token her token'a bakıyor; maliyet uzunluğun karesiyle büyüyor, O(n²). İki kat uzun metin, dört kat dikkat hesabı.
• Bellek: model, önceki token'ların Key ve Value vektörlerini her adımda yeniden hesaplamamak için saklıyor (KV önbelleği). Uzun bağlamda bu önbellek GPU belleğini ağırlıklar kadar doldurabiliyor.
• Eğitim: model uzun bağlamı kullanmayı da öğrenmek zorunda; çok uzun örnekler eğitimde nadir.

Bugün milyon tokenlık pencereler var. Ama büyük pencere iyi hafıza demek değil:

Bağlam çürümesi: pencere uzadıkça modelin ortadaki bilgiyi kaçırması, alakasız içerikle dikkatinin dağılması ve performansının düşmesi.

Bu yüzden iyi ajan tasarımının yarısı, pencereye neyi koymadığın:

Bağlam mühendisliği: bir ajanın yüzlerce turluk ömrü boyunca, her turda bağlamda neyin, hangi sırayla, ne kadar olacağını tasarlamak. Prompt mühendisliği tek bir mesajı iyi yazmaksa, bağlam mühendisliği bütün bir oturumu yönetmek.

AI Modeli

Unutabilir, ve onu engelleyen mühendislik hileleri uzun görevlerin sırrı:

• Sıkıştırma (compaction): pencere dolmaya yaklaşınca harness eski konuşmayı ve uzun araç çıktılarını özetleyip yerine özeti koyar.
• Dış not defteri: ajan önemli kararları, planı ve yapılacaklar listesini dosyalara yazar (PLAN.md, NOTES.md). Bağlam sıfırlansa bile bir sonraki tur o dosyayı okuyup devam eder.
• Alt ajanlar: büyük bir alt görevi (geniş bir kod araması, bir araştırma) temiz bağlamlı bir yardımcı ajana verip yalnız sonucunu geri almak. Ana ajanın penceresi kirlenmez. Bir ajandan diğerine işi bağlamıyla birlikte devretmeye handoff deniyor.
• Doğrulama: testler, derleyici, ekran görüntüsü. Ajan “bitti” demek yerine kontrol çalıştırır.
• Kontrol noktaları: git commit'leri; yanlış yola girildiğinde geri dönebilmek.

Neden bu kadar önemli? Aşağıdaki hesaba bak:

AI Modeli

Bileşik hata: her adımda %95 başarı, 20 adımda yalnız %36, 100 adımda %1 başarı demek. Uzun görevlerin temel matematiği.

Kurtuluş her adımı mükemmelleştirmekte değil, hataları yakalayıp düzeltmekte. Ajanların bitirebildiği işlerin uzunluğunun son iki yılda bu kadar hızlı artmasının büyük kısmı, modellerin kendi hatalarını fark edip toparlanmayı öğrenmesinden geliyor (Bölüm 21).

AI Modeli

Model hatırlamaz. Ağırlıkları oturumdan oturuma değişmiyor; her yeni oturum boş bir bağlamla başlıyor. Hatırlamayı model değil, harness yapıyor.

Uzun süreli bellek: bağlam penceresinin dışında, oturumlar arasında saklanan ve gerektiğinde bağlama geri getirilen bilgi.

Ajan tasarımcıları bellek türlerini bilişsel bilimden ödünç aldı:

• Çalışma belleği: bağlam penceresinin kendisi. Hızlı ama küçük ve oturum bitince siliniyor.
• Olay belleği (epizodik): geçmişte ne olduğunun kaydı. “Dün ödeme sayfasındaki hatayı düzelttik, testler geçti.” Genelde oturum sonunda yazılan bir özet.
• Anlamsal bellek: kalıcı olgular. “Kullanıcı Türkçe yazıyor, proje Cloudflare'de, veritabanına dokunulmuyor.”
• Yöntem belleği (prosedürel): bir işin nasıl yapıldığı. Proje talimat dosyaları ve skill dosyaları bunun karşılığı.

Saklamanın üç yaygın yolu var. En basiti düz Markdown dosyaları: ajan okur, günceller, insan da açıp düzeltebilir. Çok sayıda kayıt varsa vektör veritabanında anlamsal arama kullanılır; bu, Bölüm 12'deki RAG'in ajanın kendi geçmişine uygulanmış hali. Kesin olgular için de yapılandırılmış bir veritabanı.

Zor olan saklamak değil, neyin saklanacağına ve neyin unutulacağına karar vermek. Yanlış kaydedilmiş bir hatıra kalıcı bir halüsinasyona dönüşür: ajan her oturumda aynı yanlışa yeniden inanır. Eskiyen bilgi de sorun: geçen ayın kararı bugün geçersiz olabilir. Bir de güvenlik boyutu var. Kötü niyetli bir web sayfası ajanın belleğine bir talimat yazdırabilirse, bu talimat gelecekteki bütün oturumlara taşınır. Buna bellek zehirlenmesi deniyor; Bölüm 18'deki prompt injection'ın kalıcı versiyonu.

İyi tasarlanmış bir bellekte ajan neyi hatırladığını gösterir ve kullanıcı bunu düzeltebilir. Bellek bir kara kutu değil, okunabilir bir defter olmalı.

AI Modeli

Harness: bir modeli ajana dönüştüren iskelet. İçinde neler var:

• sistem talimatları,
• araçlar ve izinler,
• döngü ve durma kuralları,
• bağlam yönetimi,
• hafıza dosyaları,
• doğrulama adımları.

Claude Code, Codex, Cursor'ın ajan modu, Devin birer harness.

Kelime farklı yerlerde biraz farklı kullanılıyor:

• Runtime: kodun ve araçların fiilen çalıştığı ortam (bir konteyner, bir sanal makine).
• Orkestratör: birden çok ajanı yöneten katman.
• Değerlendirme harness'ı: modelleri testlerden geçiren düzenek (Bölüm 21).

Aynı modeli iki farklı harness'a koyduğunda performans farkı, iki farklı model arasındaki farktan büyük olabiliyor. Harness bir sarmalayıcı değil, ürünün kendisi.

Sıradan bir kullanıcı olarak zaten bir harness kullanıyorsun. Yapacağın şey onu kendi işine göre yapılandırmak. Üç kaldıraç var:

1. Markdown dosyaları: kalıcı bağlam.

• CLAUDE.md / AGENTS.md: projenin anayasası. Nasıl derlenir, nasıl test edilir, nereye dokunulmaz. Her oturum başında okunur. Kısa, kesin, güncel olmalı; eskimiş kurallar zararlıdır.
• Durum belgesi (STATUS.md): “şu an neredeyiz”. Yeni bir oturum buradan devam eder.
• Görev özetleri: uzun bir işi devrederken tek sayfalık hedef, kapsam, kabul kriteri, “dokunma” listesi.

2. Skill'ler: ihtiyaç anında yüklenen uzmanlık. Bir skill, bir işin nasıl yapılacağını anlatan bir Markdown dosyası (ve gerekirse betikler). İncelik şu: başlangıçta modele yalnız skill'in adı ve bir cümlelik açıklaması gösterilir; model işin o skill'e uyduğunu anlayınca dosyayı açıp okur. Buna kademeli ifşa deniyor. Yüz skill'in olabilir, ama pencereye yalnız gereken girer.

3. Araçlar ve izinler.

• Az sayıda, iyi isimlendirilmiş araç.
• Geri alınamaz işler (silme, yayınlama, ödeme) için insan onayı.
• Dışarıdan okunan içeriğin veri olarak işaretlenmesi (Bölüm 12).

AI Modeli

Çoklu ajan orkestrasyonu: bir işi birden çok ajana bölmek ve koordine etmek. Her ajanın kendi bağlamı, araçları ve rolü var.

Şubat 2026'da büyük kodlama araçlarının neredeyse hepsi iki hafta içinde çoklu ajan desteği çıkardı. Bunu mümkün kılan iki şey var: modellerin uzun oturumlarda tutarlı kalabilmesi ve her ajana kodun ayrı bir kopyasını veren git worktree'leri. Bilinen desenler:

• Şef ve işçiler: bir ajan görevi böler, dağıtır, sonuçları birleştirir. Araştırma gibi geniş ve paralelleşebilir işlerde güçlü. Anthropic 2025'te bu düzenin kendi araştırma testinde tek ajandan belirgin biçimde iyi çalıştığını, ama sıradan bir sohbete göre kabaca 15 kat token harcadığını yazdı.
• Boru hattı: planlayıcı → kodlayıcı → test eden → gözden geçiren.
• Eleştirmen: biri üretir, diğeri kusur arar.
• Paralel denemeler: aynı işi üç ajana verip en iyisini seçmek.

Ne zaman işe yaramıyor? Alt görevler birbirine sıkı bağlıysa. Bir ajanın verdiği tasarım kararını diğeri bilmiyorsa sonuçlar çelişir. Kural: yalnız gerçekten bağımsız işleri paralelleştir, her ajana dar bir görev ve net bir bitiş tanımı ver. Paralel ajanlar zamandan kazandırır, token'dan değil.

AI Modeli

Kodlama üç şartı birden sağlıyor:

• Doğrulanabilirlik: testler, derleyici, tip denetleyicisi var. Bölüm 7'deki doğrulama asimetrisi.
• Zengin eğitim verisi: kod, commit geçmişi, hata çözümleri.
• Metin tabanlı ortam: terminal ve dosyalar zaten metin.

Laboratuvarlar RL eğitimini doğrudan gerçek depolar üzerinde yapıyor: “bu hatayı çöz, testler geçsin”.

Devin bu alanın ilk “otonom yazılım mühendisi” iddiasıyla çıkan ürünüydü (Cognition, 2024). Mimarisi bu bölümdeki parçaların birleşimi:

• Kendi kabuğu, kod editörü ve tarayıcısı olan bulutta yalıtılmış bir çalışma ortamı.
• Bir planlayıcı.
• Projeye özel bilgi ve tekrar eden işler için “playbook”lar.
• Birden çok paralel oturum.

İşi bir yazılım ekibi üyesi gibi alıyor: bir görev kaydını okuyor, kodu değiştiriyor, testleri çalıştırıyor, bir değişiklik isteği (pull request) açıyor.

2026 itibarıyla Cognition, satın aldığı Windsurf editörünü Devin markası altına aldı, kendi kodlama modellerini (SWE serisi) geliştiriyor. Bildirilene göre yıllık geliri bir milyar doları geçti ve Eylül'de yüksek bir değerlemeyle yeni yatırım aldı. Claude Code, OpenAI Codex, Cursor ve diğerleri aynı alanda yarışıyor. Fark artık daha çok harness'ta: bağlam yönetimi, doğrulama, paralel ajanlar, ekip araçlarına entegrasyon.

TechCrunch, Eylül 2026

AI Modeli

Ajanlar dosya ve terminalle başladı, ama asıl büyük alan web: alışveriş yapan, form dolduran, rezervasyon yapan ajanlar. Web otuz yıldır insanlar için tasarlandı. Ajanlar onu nasıl “görüyor”, nerede çuvallıyor? Ve internetin altyapısı ajanlar için nasıl değişiyor?

AI Modeli

İkisi de var, ve hangisini kullandığı neyde çuvalladığını belirliyor. Computer use yapan bir ajanın üç algı yolu var:

• Görüntü önce (vision-first). Ajan ekran görüntüsü alıyor, görüntüdeki butonları ve metni çok modlu bir modelle “görüyor”, sonra koordinatlarla tıklıyor. Claude'un computer use'u (2024) böyle başladı. Her ekranda çalışır, ama koordinatlar kayabilir, kalabalık arayüzlerde ve üst üste binen katmanlarda şaşırır.
• Yapı önce (structure-first). Ajan sayfanın DOM'unu ya da erişilebilirlik ağacını okuyor: “bu bir buton, adı Kaydet”. Hızlı ve kesin. Ama canvas ya da WebGL ile çizilmiş içeriği hiç göremez ve etiketler yanlışsa yanlış yere gider.
• Karma. İkisini birlikte kullanmak. Genelde en iyisi, ama iki tarafın hatalarını da miras alıyor.

Bugün bu iş ürünlerin içinde: Claude'un bilgisayar ve tarayıcı kullanımı, OpenAI'ın ajanı ve Atlas tarayıcısı, Perplexity'nin Comet'i, Google'ın Chrome'a gömdüğü Gemini.

Ne kadar iyiler? İki ölçüm farklı hikâyeler anlatıyor. Basit web gezinme testlerinde önde gelen ajanlar %80'leri geçti. Ama Haziran 2026'da yayımlanan OSWorld 2.0, işi gerçekçi hale getirdi: yetkin bir insanın ortalama 1,6 saatte bitirdiği 108 uzun iş akışı. Bir görev için ortalama 318 araç çağrısı gerekiyor. Bulgu açık: ajanlar artık tıklamakta zorlanmıyor. Kısıtları unutuyorlar, görev ortasında gelen bilgiyi kaçırıyorlar, sormak yerine tahmin ediyorlar ve doğrulamayı atlıyorlar. Yine bileşik hata.

AI Modeli

MERJ'in araştırması bu alanın en somut sahadan gelen verisi. Kasım 2025'ten Eylül 2026'ya kadar 100 özel test ve gerçek sayfalarla tarayıcı ajanlarını izlediler: Claude'un computer use'u, OpenAI'ın Atlas'taki ajanı ve Perplexity'nin Comet'i. Öne çıkanlar:

• Hızlı ilerleme. Görev başarısı yaklaşık %30'dan (Kasım 2025) yaklaşık %60'a (Mart 2026) çıktı.
• Altı hata aşaması.
  1. Algı: canvas, yükleniyor iskeletini içerik sanmak.
  2. Konumlama: etiketsiz ikon butonlar, birbirine 4 pikselden yakın kontroller, tıklamayı yutan şeffaf katmanlar.
  3. Planlama: devre dışı butonda döngüye girmek, erken bitirmek.
  4. Yürütme: metni değiştirmek yerine sonuna eklemek, sanal kaydırma.
  5. Toparlanma: oturum açma ve iki adımlı doğrulama, çerez bannerları.
  6. Manipülasyon: kullanıcı içeriğinden gelen enjeksiyon, önceden işaretlenmiş abonelik kutuları, yanıltıcı ARIA etiketleri.
• “İptal” butonu deneyi. Görsel olarak “Kaydet”in öne çıktığı ama erişilebilirlik etiketlerinin bilerek ters yazıldığı bir formda, OpenAI'ın ajanı 25 denemenin 25'inde önce “İptal”e bastı. Yanıltıcı bir erişilebilirlik adı, net bir görsel tasarımı yenebiliyor. Yapı önce okuyan ajan, kodun söylediğine inanıyor.
• Dil farkı. On dilde test edildi; İngilizce dışında herkes düştü. Claude İngilizcede %82,7, on dil ortalamasında %73,6.
• Görünmeyen sorun. İnsan bir formda takılırsa şikâyet eder, destek talebi açar. Ajan sessizce vazgeçer. Analitik araçların çoğu bunu görmez.

Site sahibi olarak yapılacaklar şaşırtıcı derecede “eski usul”, çünkü ajanlara iyi gelen her şey insanlara da iyi geliyor:

• div yerine gerçek button, gerçek a, gerçek form etiketleri.
• Erişilebilirlik etiketlerinin yalnız var olması değil, doğru olması.
• Tıklamayı yutan şeffaf katmanları kaldırmak.
• Kaybolan bildirimler (4 saniyelik toast) yerine kalıcı hata mesajları.
• Düzen kaymalarını önlemek.
• Kritik yolculuklar (“X ürününü sepete ekle, ödeme sayfasına git”) için ajan testlerini sürekli entegrasyona koymak.
• Ajan trafiğini analitikte ayrı izlemek.

AI Modeli

Var, hem de birkaç tane. Ama önemli bir ayrıntı: hiçbiri HTTP'nin yerine geçmiyor. Hepsi HTTP'nin üstünde çalışan anlaşmalar. Yeni bir internet değil, mevcut internete ajanlar için yeni bir dil. Bunları bir yığın olarak düşünmek en kolayı. Katmanlara dokun:

AI Modeli

Tarihçesi hızlı ilerledi:

• 2024–25, standart savaşları. Anthropic Kasım 2024'te MCP'yi yayımladı ve araç bağlantılarında hızla fiili standart oldu. Google Nisan 2025'te ajanlar arası iletişim için A2A'yı çıkardı. IBM'in ACP'si Ağustos 2025'te A2A'ya katıldı.
• Aralık 2025, birleşme. Linux Foundation, MCP ve A2A'yı tek bir tarafsız çatı altına alan Agentic AI Foundation'ı kurdu. Sonuçta iki katmanlı bir uzlaşma çıktı: MCP model-araç bağlantısı için, A2A ajan-ajan iş birliği için. A2A Ocak 2026'da v1.0'a ulaştı ve kriptografik olarak imzalı “ajan kartları” getirdi.
• 2025–26, ticaret ve ödeme. Google Eylül 2025'te ajanların kullanıcı adına imzalı yetkiyle ödeme yapması için AP2'yi, Ocak 2026'da Shopify, Walmart, Target gibi ortaklarla alışveriş akışının tamamı için UCP'yi duyurdu. OpenAI ve Stripe da kendi ajan ticaret protokolünü çıkardı.
• 2026, sayfa içi araçlar. Chrome Şubat 2026'da WebMCP'nin erken önizlemesini çıkardı. Fikir: sayfa, ajan butonlara tıklamak zorunda kalmasın diye kendi fonksiyonlarını tarayıcıdaki ajana “araç” olarak sunuyor. Haziran'da origin trial'a girdi, OpenAI'ın masaüstü tarayıcısı Ağustos'ta destekledi. Mozilla tarafsız kaldı, WebKit (Safari) resmen karşı çıktı. Standart olup olmayacağı belli değil.
• Para katmanı, HTTP 402. 1997'de “ileride kullanılmak üzere” ayrılan “402 Ödeme Gerekli” kodu, Cloudflare'in Pay per Crawl'u ve Coinbase ile kurduğu x402 vakfıyla dirildi. Bir ajan bir sayfayı okumak ya da bir API'yi çağırmak için otomatik mikro ödeme yapabiliyor. Bildirildiğine göre 402 artık internetin en sık dönen durum kodlarından biri.
• Kimlik ve izin. Web Bot Auth, bir botun “ben gerçekten X'in ajanıyım” demesini imzayla kanıtlamasını sağlıyor. robots.txt'e eklenen içerik sinyalleri, “arama için okuyabilirsin, eğitim için kullanamazsın” gibi ayrımları ifade ediyor. llms.txt ise sitenin AI'lar için özet bir rehberi; yaygınlaşıyor ama asistanların bunu ne kadar kullandığı net değil.

Büyük resim: insan web'i “sayfa” üzerine kuruluydu. Ajan web'i “eylem” üzerine kuruluyor. Sayfa göstermek yerine yapılabilecek işleri ilan etmek, kimlik kanıtlamak, izin almak ve ödeme yapmak. Cloudflare gibi altyapı şirketleri bu katmanların çoğunu hazır servis olarak sunuyor (Bölüm 28).

Kaynak: MERJ · OSWorld 2.0 · Ajan protokolleri 2026 · WebMCP ve UCP

AI Modeli

Ajanlar, protokoller, araçlar… Bunların hepsi sonunda bir sunucuya giden istekler. Milyonlarca kullanıcının aynı anda gönderdiği istekleri bir modelin nasıl kaldırdığını hiç düşündün mü? Bir cevabın neden bazen hemen, bazen saniyeler sonra başladığını, çıktı token'larının neden girdiden pahalı olduğunu anlamak için servis katmanına inmemiz gerekiyor.

AI Modeli

Çünkü bir istek iki çok farklı aşamadan geçiyor.

Prefill ve decode: prefill aşamasında girdinin (senin prompt'un) bütün token'ları paralel olarak bir kerede işlenir. Decode aşamasında cevap token token üretilir; her yeni token için model bir tur daha çalışır.

Prefill hesap ağırlıklı: binlerce token'ı aynı anda işlemek GPU'nun en sevdiği iş. Decode bellek ağırlıklı: her token için bütün ağırlıkları bellekten okumak gerekiyor ama çok az hesap yapılıyor (Bölüm 6'daki bellek duvarı). İki ölçü bu iki aşamayı yansıtıyor:

• TTFT (time to first token): isteği gönderdiğinden ilk token'ın gelmesine kadar geçen süre. Büyük ölçüde prefill.
• TPS (tokens per second): ilk token'dan sonra saniyede kaç token geldiği. Decode hızı.

Uzun belge yapıştırınca TTFT uzuyor, çünkü prefill büyüyor. Sonra akış hızlı, çünkü decode belge uzunluğundan çok etkilenmiyor. Bu ayrım fiyatları da açıklıyor: çıktı token'ları neredeyse her zaman girdi token'larından pahalı.

AI Modeli

Hayır, ve bütün ekonomi buna dayanıyor.

Toplu işleme (batching): birçok kullanıcının isteğini aynı anda işlemek. Ağırlıklar bellekten bir kez okunur ve paketteki bütün isteklerin hesabında kullanılır.

Decode bellek sınırlıysa, aynı bellek okumasını yüz isteğe paylaştırmak verimi neredeyse yüz kat artırır; her kullanıcının hızı ise biraz düşer. Aşağıda kaba bir hesap var: 70 milyar parametreli bir model, tek bir yüksek sınıf GPU.

AI Modeli

Bu dengeyi yöneten modern teknikler:

• Sürekli toplu işleme: eskiden paketteki bütün istekler bitene kadar yeni istek alınamazdı. Kısa cevap uzun cevabı beklerdi; buna sıra başı tıkanması (head-of-line blocking) deniyor. Bugün her token adımında biten istek paketten çıkıp yenisi giriyor.
• KV önbelleği yönetimi: her isteğin geçmiş token'larının Key/Value vektörleri bellekte tutuluyor. Uzun bağlam bu önbelleği şişiriyor. PagedAttention (vLLM projesiyle yaygınlaştı) bu belleği işletim sistemlerinin sanal belleği gibi küçük sayfalara bölüp parçalanmayı önlüyor.
• Önek önbellekleme: aynı başlangıcı paylaşan isteklerin (aynı sistem promptu, aynı uzun belge) prefill hesabı bir kez yapılıp tekrar kullanılıyor. Sağlayıcıların “önbelleğe alınmış girdi” için büyük indirim vermesinin sebebi bu. Ajanlarda her turda bütün geçmiş yeniden gönderildiği için hayati.
• Spekülatif çözme: küçük ve hızlı bir model birkaç token'lık taslak yazar, büyük model hepsini tek seferde kontrol eder; doğru olanlar kabul edilir. Sonuç büyük modelin tek başına üreteceğiyle aynı, ama 2–3 kat hızlı. Bölüm 7'deki doğrulama asimetrisi burada da var: kontrol etmek üretmekten ucuz.
• Ayrıştırılmış servis: prefill ve decode farklı türde iş olduğu için farklı makinelere ayırmak.
• Kuantizasyon: ağırlıkları 8 ya da 4 bite indirerek okunacak veriyi küçültmek (Bölüm 17).

Bu işleri yapan yazılımlara çıkarım motoru deniyor: vLLM, SGLang, TensorRT-LLM gibi.

AI Modeli

Klasik büyük ölçekli servis mühendisliği, yapay zekâya özgü biraz farkla.

• Verim ve gecikme: aynı anda kaç istek işlendiği (verim) ile tek bir isteğin ne kadar sürdüğü (gecikme) arasında bir denge var. Paketi büyütmek verimi artırır, gecikmeyi kötüleştirir.
• Gecikme yüzdelikleri: ortalama yanıltıcıdır. p50 tipik isteği, p95 ve p99 en yavaş yüzde 5'i ve yüzde 1'i gösterir. Kullanıcı deneyimini çoğu zaman en kötü durumlar belirler.
• Otomatik ölçekleme ve yük dengeleme: trafik arttıkça yeni makineler açmak, istekleri makineler arasında dağıtmak. GPU'lar pahalı ve geç açıldığı için klasik web sunucularından daha zor.
• Geri basınç ve kotalar: sistem dolduğunda isteklerin sonsuza dek birikmesi yerine reddedilmesi ya da yavaşlatılması. Oran sınırları (rate limit) ve kotalar, bir kullanıcının herkesi yavaşlatmasını önler.
• Model yönlendirme: her isteği en büyük modele göndermek yerine, isteğin zorluğuna göre küçük ya da büyük modele yönlendirmek. Basit sorular ucuz modele, zorlar pahalıya. İstek başına maliyet böyle düşürülüyor.

AI Modeli

Modelin dışındaki her şeye; çoğu sorun orada çıkıyor. Bir yapay zekâ servisinin üretim kontrol listesi:

Bunların çoğu klasik yazılım mühendisliği. Yeni olan şu: bir yapay zekâ servisinin hatası çoğu zaman bir çökme değil, sessizce yanlış bir cevap. O yüzden gözlem ve değerlendirme (Bölüm 21) burada da belirleyici.

AI Modeli

Buraya kadar hep büyük şirketlerin veri merkezlerinde çalışan modellerden bahsettik. Ama bir modeli indirip kendi bilgisayarında çalıştırmak da mümkün. Ağırlıkları herkese açık modeller, büyük bir modelin bilgisini küçük bir modele aktarmak ve bir modeli dizüstü bilgisayara sığacak kadar küçültmek, kendi başına bir dünya.

AI Modeli

Çoğu zaman kod değil, ağırlıklar. Ve terminoloji karışık, ayırmak gerekiyor:

• Açık ağırlık (open weights): eğitilmiş ağırlık dosyaları indirilebiliyor. Modeli kendi bilgisayarında çalıştırabilir, inceleyebilir, ince ayar yapabilirsin. Ama eğitim verisi ve tarifi çoğu zaman gizli. Llama, Qwen, DeepSeek, Mistral'ın çoğu modeli bu sınıfta.
• Tamamen açık: ağırlıkla birlikte eğitim verisi, kod ve tarif de açık. AI2'nin OLMo'su ve EleutherAI'ın modelleri gibi. Bilimsel tekrarlanabilirlik için kritik.
• Kapalı: model yalnız bir API ya da ürün üzerinden kullanılabiliyor. GPT, Claude, Gemini'nin en güçlü sürümleri.

Bir de lisans meselesi var. Apache 2.0 ya da MIT gibi lisanslar ticari kullanım dahil neredeyse her şeye izin veriyor. Bazı “topluluk lisansları” ise belirli kullanıcı sayısının üstünde ya da belirli amaçlar için kısıtlar koyuyor. “Açık” kelimesi her zaman aynı özgürlüğü anlatmıyor.

Şirketler neden en değerli varlıklarını açıyor? Farklı sebepler var: araştırmacı ve geliştirici ekosistemini kendi etraflarında toplamak, standart belirlemek, bulut ya da donanım satmak, rakiplerin kapalı modellerine karşı fiyat baskısı yaratmak, ülke ve bölge düzeyinde bağımsızlık. Laboratuvarların genel tutumu, en güçlü modelleri kapalı tutup bir kuşak gerideki modelleri açmak. Çin merkezli laboratuvarlar ise frontier'a çok yakın modelleri açık yayımlıyor; açık ağırlıklı en güçlü modellerin önemli bir kısmı bugün oradan geliyor.

AI Modeli

Çoğu zaman büyük bir modelden öğrenerek.

Damıtma (distillation): büyük ve güçlü bir “öğretmen” modelin davranışını, onun çıktılarıyla eğiterek küçük bir “öğrenci” modele aktarmak.

Neden işe yarıyor? Çünkü öğretmen yalnız doğru cevabı değil, çok daha zengin bir sinyal verebiliyor:

Yumuşak hedefler: öğretmenin bütün olasılık dağılımı. “Doğru cevap muz” yerine “muz %40, kiraz %25, ayva %15… tornavida neredeyse sıfır”.

Öğrenci, “ayva ile muzun birbirine yakın olduğunu, tornavidanın alakasız olduğunu” bu dağılımdan öğreniyor. Tek doğru cevap vermek bir öğrenciye sınav anahtarını vermek; dağılımı vermek, öğretmenin nasıl düşündüğünü göstermek.

Türleri:

• Beyaz kutu: öğretmenin olasılıklarına (logitlerine) erişim var. En verimlisi; genelde aynı şirket kendi modelleri arasında yapıyor.
• Kara kutu: yalnız öğretmenin metin cevapları var. Öğrenci bu cevaplarla ince ayar yapılıyor.
• Reasoning damıtma: öğretmenin uzun düşünce zincirlerini öğrenciye öğretmek. DeepSeek-R1'in küçük versiyonları böyle üretildi; küçük modeller büyük modelin akıl yürütme alışkanlıklarını devraldı.
• Reddetme örneklemesi: öğretmene bir soruya birçok cevap ürettirip yalnız doğrulananları ya da en iyi puanlananları öğrenci için eğitim verisi yapmak. Bölüm 2'deki sentetik verinin en yaygın tarifi.

Damıtma tamamen meşru ve her laboratuvarın kendi küçük modellerini ürettiği yöntem. Sorun, bunu başkasının modeline izinsiz yapmak. O zaman adı model çıkarımı oluyor ve Bölüm 18'de göreceğimiz bir saldırı türüne dönüşüyor.

AI Modeli

Küçültmek. En etkili yol:

Kuantizasyon: eğitilmiş bir modelin ağırlıklarını daha az bitle temsil etmek. 16 bit yerine 8 ya da 4 bit. 140 GB'lık model 4 bitte yaklaşık 35–40 GB'a iner.

Bir fotoğrafı daha az renkle kaydetmek gibi: çoğu ayrıntı kalır, bazı ince geçişler kaybolur. Akıllı kuantizasyon yöntemleri hangi ağırlıkların daha hassas olduğunu bulup onları korur. GPTQ ve AWQ bunların en bilinenleri. GGUF ise yerel çalıştırma için yaygın bir dosya formatı; llama.cpp gibi araçlar bu formattaki modelleri sıradan bilgisayarlarda, hatta yalnız işlemciyle çalıştırabiliyor. 8 bit genelde neredeyse kayıpsız; 4 bit küçük bir kalite kaybıyla büyük tasarruf; daha aşağısı riskli.

Başka küçültme yolları da var:

• Budama (pruning): etkisi küçük ağırlıkları, nöronları ya da bütün katmanları çıkarmak.
• Seyreklik: ağırlıkların bir kısmını sıfır yapıp donanımın sıfırları atlamasını sağlamak. Uzmanlar karışımı (MoE) da bir tür yapısal seyreklik.
• Damıtma: az önce gördüğümüz gibi doğrudan küçük bir model eğitmek.

AI Modeli

Hayır. Bunun için çok zarif bir yöntem var.

LoRA (low-rank adaptation): modelin ağırlıklarını dondurup her büyük matrisin yanına iki küçük matris eklemek ve yalnız onları eğitmek. Eğitilen parametre sayısı yüzde birin çok altına iniyor.

Fikir şu: bir modeli yeni bir işe uyarlamak için gereken değişiklik, büyük matrislerin tamamını değiştirmeyi gerektirmiyor; düşük boyutlu, “ince” bir düzeltme yetiyor. Sonuç birkaç on megabaytlık bir “adaptör” dosyası. Aynı ana modelin üstüne farklı adaptörler takıp çıkarabilirsin: biri senin üslubun, biri hukuk metinleri, biri Türkçe tarih. QLoRA bunu kuantize edilmiş bir model üzerinde yapıyor; tek bir oyun kartıyla büyük modellere ince ayar yapmayı mümkün kıldı. Bütün bu “az parametreyle ince ayar” yöntemlerinin genel adı PEFT.

AI Modeli

Evet, ve bu açık ağırlık tartışmasının özü. Bölüm 10'da gördük: birkaç düzine örnekle yapılan bir ince ayar ya da reddetme yönünün ağırlıklardan çıkarılması (abliteration), güvenlik davranışının büyük kısmını söküyor. Model indirildiği anda, onun güvenlik özellikleri indirenin iyi niyetine emanet. Kötüye kullanım da izlenemez, çünkü sağlayıcının sunucusundan geçmez.

Öbür tarafta güçlü argümanlar var:

• Şeffaflık ve araştırma: güvenlik araştırmacıları kapalı modellerin içine bakamaz, açık modellere bakabilir. Bölüm 10'daki keşiflerin çoğu açık modellerde yapıldı.
• Mahremiyet ve egemenlik: verisini dışarı veremeyen hastaneler, kamu kurumları, şirketler.
• Güç yoğunlaşmasına karşı denge: en güçlü teknolojinin birkaç şirketin elinde kalmaması.
• Yenilik: binlerce geliştiricinin denemesi.

Bugünkü fiili uzlaşma, risk değerlendirmesine dayalı kademeli açıklık: belirli yetenek eşiklerini (örneğin biyolojik silah konusunda ciddi yardım) geçen modeller açılmıyor, altındakiler açılıyor. Eşiklerin nerede olduğu ve kimin ölçtüğü sürekli tartışılıyor.

AI Modeli

Damıtmanın izinsiz hali, kötüye kullanım, filigranlar, veri zehirleme… Yapay zekâ bir saldırı yüzeyi, ve şirketlerin karşısında organize, kaynaklı aktörler var. Bu aktörler ne yapıyor, şirketler onları nasıl fark ediyor ve nasıl durduruyor?

AI Modeli

Güvenlikçilerin ilk sorusu hep aynı:

Tehdit modeli: kim saldırabilir, neyi hedefler, hangi kaynaklara sahiptir, hangi yollardan girebilir? Savunma bu cevaba göre tasarlanır.

Yapay zekâ sistemlerinde başlıca hedefler:

• Modelin kendisi: ağırlıklar (yüz milyonlarca dolarlık yatırım) ya da yetenekleri. Çalmak, kopyalamak.
• Eğitim verisi: içindeki kişisel ya da gizli bilgileri sızdırmak; ya da veriyi zehirlemek.
• Kullanıcılar: asistanı ya da ajanı kullanıcının aleyhine çevirmek (Bölüm 12'deki prompt injection).
• Güvenlik kuralları: modeli zararlı işlere yardım ettirmek (jailbreak, Bölüm 8).
• Kötüye kullanım: modeli dolandırıcılık, siber saldırı ya da propaganda için araç yapmak.

AI Modeli

Bölüm 17'de damıtmanın meşru halini gördük. İzinsiz hali bir saldırı:

Distillation saldırısı: bir rakibin modeline çok sayıda soru sorup cevaplarını (mümkünse düşünce zincirlerini de) toplamak ve bunlarla kendi modelini eğitmek. Kullanım koşullarının açık ihlali.

Saldırganların yöntemleri. Mekanizmayı anlamak için ana hatlarıyla:

• Ölçek ve gizlenme: sahte ya da çalıntı hesaplar, coğrafi kısıtları aşmak için vekil sunucu ağları, isteklerin binlerce IP'ye ve hesaba dağıtılması. Bildirilen bazı vakalarda milyarlarca token toplandı.
• Sistematik kapsama: sorular rastgele değil; belirli bir yeteneği (kod, matematik, belirli bir dil) eksiksiz kapsayacak şekilde dağıtılmış. Aktif öğrenme mantığıyla, öğrenci modelin en emin olmadığı bölgelere odaklanan sorular.
• Düşünceyi kazımak: sağlayıcılar ham düşünce zincirini göstermiyor. Saldırganlar modelden “cevabının arkasındaki akıl yürütmeyi hayal edip anlatmasını” isteyerek gizli düşüncenin bir taklidini topluyor.
• Olasılık sızıntısı: bir API olasılık değerleri döndürüyorsa, bunlar damıtmayı çok hızlandırıyor (Bölüm 17'deki yumuşak hedefler). 2024'te araştırmacılar bu bilgilerle bir üretim modelinin son katmanını kısmen geri çıkarabildi; sağlayıcılar açığı kapattı.

Şirketlerin savunmaları. Tek bir duvar yok; katmanlar var:

1. Göstermemek: ham düşünce zincirini gizlemek, yalnız özetini göstermek; olasılık değerlerini sınırlamak.
2. Kimin kim olduğunu bilmek: en güçlü modellere erişim için kurumsal kimlik doğrulaması; belirli ülkelerin kontrolündeki şirketlere hizmeti kısıtlayan politikalar.
3. Deseni yakalamak: sınıflandırıcılar ve anomali tespiti. Belirli bir yetenek bölgesini sistematik tarayan, saatin her saatinde aynı ritimle çalışan, birbirine benzeyen hesap kümeleri. İnsan kullanımı dağınık; damıtma trafiği düzenli.
4. İzi sürmek: modelin cevaplarına ayırt edici özellikler, istatistiksel filigranlar ya da “tuzak” bilgiler yerleştirmek. Bir rakip modelde aynı izler çıkarsa kaynak belli olur.
5. Bozmak: araştırılan bir fikir, damıtma yaptığı tespit edilen hesaplara fark ettirmeden kalitesi düşürülmüş ya da öğrenmeyi zorlaştıracak şekilde değiştirilmiş cevaplar vermek. Böylece saldırgan neyin yakalandığını öğrenip taktiğini ayarlayamıyor.
6. Durdurmak: hesap kapatma, hukuki yollar ve devletlerle bilgi paylaşımı.

Hiçbiri tek başına yetmiyor. Gizli düşünce zinciri bile, sohbetler, özetler ve araç çağrıları birleştirilince kısmen yeniden kurulabiliyor. Bu bir kedi-fare oyunu.

AI Modeli

İkisi de mümkün ve ikisi de belgelenmiş.

Sızdırma. Modeller eğitim verisinin bir kısmını ezberliyor (Bölüm 5). 2023'te araştırmacılar bir sohbet modelini belirli bir kelimeyi sonsuza dek tekrarlamaya zorlayarak, ezberlediği eğitim metinlerini (içinde kişisel bilgiler de olmak üzere) kusturmasını sağladı. Açık kapatıldı ama ders kaldı.

Üyelik çıkarımı: bir kişinin ya da belgenin eğitim verisinde olup olmadığını, modelin o metne ne kadar “tanıdık” davrandığından (ne kadar düşük kayıp verdiğinden) anlamaya çalışmak. Telif davalarında ve mahremiyet denetimlerinde kullanılıyor.

Savunma: kişisel veriyi baştan ayıklamak, tekilleştirmek (tekrarlanan metin daha çok ezberleniyor) ve diferansiyel mahremiyet. Bu sonuncusu, eğitime matematiksel olarak ayarlanmış gürültü ekleyip tek bir kişinin verisinin modeli neredeyse hiç değiştirmemesini garanti eden bir teknik. Güçlü bir garanti, ama kaliteden biraz ödün vermek gerekiyor.

Zehirleme.

Veri zehirleme ve arka kapı: eğitim verisine kasıtlı içerik sokup modelin davranışını bozmak ya da belirli bir tetikleyici kelime görünce gizli bir davranış sergileyen bir “arka kapı” bırakmak.

2025'te Anthropic ve İngiltere'nin yapay zekâ güvenlik enstitüsü tedirgin edici bir sonuç yayımladı. Model boyutundan bağımsız olarak, yalnız yaklaşık 250 zehirli belge bir modele arka kapı yerleştirmeye yetebiliyor. Yani bu iş verinin yüzdesiyle değil, mutlak bir sayıyla ilgili. Laboratuvarların veri filtrelemesini ve köken kaydını (Bölüm 2) bu kadar ciddiye almasının bir sebebi bu.

Yapay zekâya özgü bir saldırı ailesi daha var: düşmanca örnekler. Bir görüntüye insan gözünün fark etmeyeceği bir gürültü eklemek, bir sınıflandırıcıya pandayı jibon olarak gördürebiliyor. Dil modellerindeki otomatik jailbreak dizileri bunun metin karşılığı.

AI Modeli

Ajan okuduğu her içerikle yönlendirilebilir (Bölüm 12) ve eylem yapabilir. Bu ikisi birleşince eski güvenlik ilkeleri yeniden önem kazanıyor:

• Güven sınırı: talimat yalnız kullanıcıdan ve sistemden gelir; e-postalar, web sayfaları, belgeler veridir.
• En az yetki: ajan işini yapmaya yetecek kadar yetkiyle çalışır. Okuması gereken klasöre yazma yetkisi, e-posta okuyan ajana gönderme yetkisi verilmez.
• Onay kapıları: geri alınamaz eylemler (silme, ödeme, gönderme, yayınlama) insan onayına bağlanır.
• Geri alınabilirlik ve idempotentlik: mümkün olan her eylem geri alınabilir olmalı. Aynı işlem yanlışlıkla iki kez tetiklenirse iki kez ödeme yapılmamalı.
• Kum havuzu: ajanın kodu yalıtılmış bir ortamda çalışır; ana sisteme dokunamaz.
• Çıkış kontrolü: ajanın internette nereye veri gönderebileceği sınırlanır.

Sonuncusu önemli. Klasik bir saldırıda, okunan bir belgedeki gizli talimat ajana gizli verileri bir web adresinin içine gömüp o adrese istek atmasını söylüyor. Veri böylece sessizce dışarı sızıyor (veri sızdırma). Ajanın yalnız izinli adreslere istek atabilmesi bu kapıyı kapatıyor.

AI Modeli

Önce yaygın bir yanılgıyı düzeltelim: “yapay zekâ dedektörü” denen, metnin üslubuna bakıp tahmin eden araçlar güvenilmez. Özellikle anadili İngilizce olmayan yazarları sık sık haksız yere suçluyorlar. Güvenilir yol, içeriği üretim anında işaretlemek.

Metin filigranı: model her token'ı seçerken olasılıkları gizli bir anahtara göre çok hafifçe kaydırmak. Okur bir fark görmez, ama yeterince uzun bir metinde seçimler istatistiksel bir imza oluşturur. Anahtarı bilen bir dedektör bu imzayı bulabilir.

Bölüm 3'teki zarı hatırla. Her adımda, gizli anahtar ve önceki kelimeler kullanılarak sözlük ikiye bölünüyor: bir “yeşil liste” ve bir “kırmızı liste”. Model yeşil listedeki adaylara çok küçük bir avantaj veriyor. Muz ile kiraz neredeyse eşit olasılıklıysa, yeşil listede olan seçiliyor. Tek bir kelimede bu hiçbir şey ifade etmez. Ama yüzlerce kelimede, normal metinde yarı yarıya olması gereken yeşil oranı belirgin biçimde yükseliyor. Dene:

AI Modeli

Gerçek sistemler bunun daha incelikli versiyonları:

• SynthID-Text (Google DeepMind): her aday token için gizli anahtar ve bağlamdan sözde rastgele bir puan hesaplıyor ve bunu logitlere ekliyor. Dedektör, metindeki her token için aynı puanları yeniden hesaplayıp “filigranlı / değil / belirsiz” diye üç durumlu bir karar veriyor. Dedektörün dil modelinin kendisine ihtiyacı yok. Ekim 2024'te açık kaynak yapıldı ve popüler kütüphanelere eklendi. SynthID'nin görüntü, ses ve video versiyonları da var.
• textGrain (OpenAI): 5 Ekim 2026'da duyuruldu. Aynı ilkeyle çalışıyor: kelime seçimlerini hafifçe kaydırıp bir desen bırakıyor. Gizli karakter, görünmez boşluk ya da tuhaf noktalama kullanmıyor. AB'nin yapay zekâ yasasındaki şeffaflık yükümlülükleri nedeniyle önce AB'deki uygun ChatGPT ve Codex metinlerinde kullanılmaya başlandı; API müşterileri isteğe bağlı açabiliyor.

Sınırlarını OpenAI'ın kendi rakamları iyi gösteriyor. 400 token'lık metinde, %1 yanlış alarm eşiğinde:

• Düzenlenmemiş metinde tespit oranı %92.
• Kelimelerin %10'u eş anlamlısıyla değiştirilince %66.
• %25'i değiştirilince %17.

Kısa metinler, kalıplaşmış içerik (kod, liste) ve yeniden yazılmış metinler zayıf nokta. Filigranlar ayrıca yalnız işaretleme yapan sağlayıcının çıktılarını yakalıyor. Açık bir model ya da işaretleme yapmayan bir sağlayıcı imzasız metin üretir. Bu yüzden filigran bir kanıt değil, bir ipucu.

Görüntü ve videoda tamamlayıcı bir yaklaşım var: içerik kimlik bilgileri (C2PA). Bir dosyaya, nasıl üretildiğini ve düzenlendiğini anlatan, kriptografik olarak imzalı bir “künye” eklemek. Filigran içeriğin içine gizlenir; künye dosyanın üstüne yapışır. Künye silinebilir, filigran bozulabilir; ikisi birlikte daha güçlü.

OpenAI, içerik kökeni sinyalleri · textGrain duyurusu · SynthID açık kaynak

AI Modeli

Büyük laboratuvarların tehdit istihbaratı ekipleri var. Kullanım desenlerini izliyor, şüpheli hesap kümelerini inceliyor, tespit ettikleri ağları kapatıp raporlar yayımlıyorlar. Anthropic'in Eylül 2026 raporu, Aralık 2025–Ağustos 2026 arasında durdurulan yaklaşık 40 grubu yedi kategoride anlatıyor:

• siber operasyonlar,
• etki operasyonları (sahte hesap ağları, propaganda),
• gözetim,
• dolandırıcılık,
• biyolojik kötüye kullanım girişimleri,
• konvansiyonel silah,
• yasadışı damıtma.

Raporun ana tespiti şu: modeller giderek otonom, çoklu ajanlı çerçevelere gömülüyor. Bu da büyük devletlerle düşük kaynaklı aktörler arasındaki emek ve araç farkını kapatıyor. Aynı ajan çerçeveleri savunma tarafında da kullanılıyor. Siber güvenlik, ajanların hem saldırıda hem savunmada en hızlı yayıldığı alan; Google'ın Eylül'de çıkardığı savunmaya özel siber modelleri bunun işareti.

AI Modeli

Bu bölümde hep modellere ve sistemlere yönelen saldırıları konuştuk. Ama zararın bir de öbür yönü var: model kusursuz çalışsa bile, ürettiği sahte bir ses, yanlı bir karar ya da sızdırdığı bir bilgi gerçek insanlara zarar verebilir. Önce o tarafa bakalım.

AI Modeli

Oluyor, ve kitapta öğrendiğin iki teknik bunun arkasında.

Deepfake: gerçek bir kişiyi taklit eden, yapay zekâyla üretilmiş görüntü, video ya da ses.

Görüntü tarafında Bölüm 21'deki difüzyon modelleri var. Ses tarafında da nöral codec'ler: sesi token'lara çeviren bu kodlayıcılar sayesinde bir modelin birinin sesini taklit etmesi için birkaç saniyelik bir kayıt yetebiliyor. Bir sosyal medya videosu, bir sesli mesaj, bir telesekreter kaydı.

2024'te Hong Kong'daki bir mühendislik şirketinin çalışanı, şirket yöneticilerinin göründüğü bir video görüşmesine katıldı ve talimatla yaklaşık 25 milyon dolar transfer etti. Görüşmedeki herkes deepfake'ti. Daha yaygın olanı bireysel dolandırıcılık: “kaza yaptım, acil para lazım” diyen tanıdık bir ses. Bir de sessiz ama en yaygın zarar var: rızası olmadan üretilen müstehcen görüntüler. Deepfake içeriklerinin büyük kısmı bu türden ve hedefleri çoğunlukla kadınlar.

Peki tespit edilebiliyor mu? Kısmen. Tespit modelleri var, ama Sakana'nın 2026'daki Percept-Lens çalışmasının gösterdiği gibi, yeni bir üretici çıktığında eskisine göre eğitilmiş dedektörler sık sık yanılıyor. Bu bir kedi-fare oyunu. Daha sağlam savunmalar üç katmanda:

• Teknik köken: Bölüm 18'deki filigranlar ve C2PA içerik kimlikleri. Sahteyi yakalamak yerine gerçeği imzalamak.
• Süreç: para transferinde ikinci bir kanaldan geri arama, şirketlerde iki kişi onayı.
• Kişisel: ailenle bir “parola” belirlemek. Ses ne kadar inandırıcı olursa olsun, parolayı bilmiyorsa o değil.

AI Modeli

Dezenformasyon: birilerini yanıltmak için bilerek üretilip yayılan yanlış bilgi. Bilmeden yayılan yanlışa ise yanlış bilgi (misinformation) deniyor.

2024, dünya nüfusunun yarısının sandığa gittiği bir yıldı ve büyük bir yapay zekâ dalgasından korkuluyordu. Sonradan yapılan incelemelerin çoğu, ölçülebilir etkinin korkulandan küçük kaldığını buldu. Tekil vakalar yine de çarpıcı. 2023 Slovakya seçimlerinden iki gün önce, bir aday ile bir gazetecinin seçime hile karıştırmayı konuştuğu iddia edilen sahte bir ses kaydı yayıldı. Seçim yasakları yüzünden yalanlamak için zaman yoktu.

Asıl değişiklik üç yerde:

• Maliyet: ikna edici bir metin üretmenin maliyeti neredeyse sıfıra indi. Kötü niyetli bir aktör artık bin farklı dilde, bin farklı üslupta yazabiliyor.
• Kişiselleştirme: 2025'te Nature Human Behaviour'da yayımlanan bir deneyde, karşısındakinin birkaç demografik bilgisi verilen GPT-4, çevrim içi tartışmaların çoğunda insanlardan daha ikna edici bulundu. İkna gücü, Bölüm 20'deki tehlikeli yetenek değerlendirmelerinin de başlıklarından biri.
• Güvenin aşınması: belki en derin etki sahte içeriğin kendisi değil.

Yalancının kazancı (liar's dividend): sahte üretmek kolaylaştıkça, gerçek bir kaydın sahibinin de “o yapay zekâ” diyerek inkâr edebilmesi.

Herkesin her şeyden şüphelendiği bir ortam, yalan söyleyene yarar. Bunun yanında internet, düşük emekle üretilmiş içerikle doluyor. Bu hem okurlar hem de bir sonraki modeller için sorun; Bölüm 2'deki model çöküşü tartışmasını hatırla.

AI Modeli

Duyguya gerek yok; veri yeterli. Model dünyayı kendisine gösterilen verilerden öğreniyor, ve veriler dünyanın geçmişteki adaletsizliklerini de taşıyor.

Önyargı (bias): bir modelin belirli gruplara, haklı bir gerekçe olmadan sistematik olarak farklı davranması.

Kaynakları:

• Geçmiş veri: 2018'de Amazon'un deneysel işe alım modeli, geçmişte çoğunlukla erkeklerin işe alındığı verilerden öğrendiği için “kadın” kelimesi geçen özgeçmişleri aşağı puanladı. Şirket projeyi durdurdu.
• Vekil değişkenler: cinsiyet ya da köken modelden çıkarılsa bile posta kodu, okul ya da dil üslubu onları dolaylı taşıyabilir. 2024'te Nature'da yayımlanan bir çalışma, dil modellerinin Afro-Amerikan İngilizcesiyle yazan kişiler hakkında, açıkça sorulduğunda vermedikleri olumsuz yargıları dolaylı yoldan verdiğini gösterdi.
• Temsil eksikliği: eğitim verisinde az bulunan dillerde ve gruplarda model daha kötü çalışıyor. Bölüm 4'teki tokenizer'ı hatırla: Türkçe bir metin İngilizcesinden daha fazla token tutuyor, yani daha pahalı ve çoğu zaman daha az isabetli.

İki tür zararı ayırmak işe yarıyor:

Temsil zararı ve dağıtım zararı: bir grubu basmakalıp ya da küçültücü biçimde yansıtmak (temsil; “CEO” deyince hep erkek çizen bir görüntü modeli) ile iş, kredi, sağlık hizmeti gibi bir kaynağı adaletsiz dağıtmak (dağıtım).

Dağıtım zararının en zor kısmı, “adil”in ne demek olduğu. Aşağıdaki simülasyonda bir banka kredi başvurularını bir risk puanıyla değerlendiriyor. İki grubun geçmiş temerrüt oranları farklı. Eşiği oynat ve hangi adalet ölçütünü sağlarken hangisini kaybettiğini izle.

AI Modeli

Adalet ölçütleri: “adil karar”ın matematiksel tanımları. En bilinen üçü:

• Puanın her iki grupta aynı anlama gelmesi (kalibrasyon).
• Haksız ret oranının iki grupta eşit olması.
• Reddedilenlerden gerçekten riskli olanların oranının iki grupta eşit olması.

2016'da ABD'de bir suç tekrarı tahmin aracı üzerine çıkan tartışma, matematikçileri rahatsız edici bir sonuca götürdü. İki grubun taban oranları farklıysa, bu ölçütlerin hepsini aynı anda sağlamak imkânsız. Model mükemmel olmadıkça biri feda edilmek zorunda.

Bu bir mühendislik sorusu değil, bir değer sorusu. Hangi hatanın kime daha pahalıya patladığına karar vermek gerekiyor. Mühendisin işi, o kararı görünür kılmak ve sessizce vermemek.

AI Modeli

Üç ayrı risk var; biri bildiğin, ikisi daha sinsi.

Ezberleme (memorization): modelin eğitim verisindeki bir metni, örneğin bir e-posta adresini ya da bir telefon numarasını, kelimesi kelimesine hatırlayıp üretebilmesi.

Ezberleme özellikle veride çok tekrar eden metinlerde oluyor; Bölüm 2'deki tekilleştirmenin bir sebebi de bu. 2023'te araştırmacılar, yayındaki bir sohbet modelinden tek bir kelimeyi sonsuza dek tekrarlamasını isteyerek eğitim verisinden gerçek kişisel bilgiler dahil metinler çıkarabildi. Açık kapatıldı, ama ezberlemenin gerçek bir sızıntı yolu olduğunu gösterdi.

İkincisi çıkarım. Model senin adını hiç görmemiş olabilir, ama yazdığın birkaç paragraftan nerede yaşadığını, yaşını ve gelirini tahmin edebilir. 2023'te yapılan bir çalışma, dil modellerinin anonim forum yazılarından kişisel özellikleri insan uzmanlara yakın isabetle ve çok daha ucuza çıkarabildiğini gösterdi. Yazıyı anonimleştirmek, yazarı anonimleştirmek demek değil.

Üçüncüsü erişim. Bölüm 14'teki ajanlar e-postana, takvimine ve dosyalarına erişiyor. Bölüm 12'deki dolaylı prompt injection ile birleşince, kötü niyetli bir belge ajanından bu bilgileri dışarı göndermesini isteyebilir. Bölüm 18'deki en az yetki ilkesi ve Bölüm 16'daki veri saklama politikaları burada kişisel bir anlam kazanıyor.

AI Modeli

Var, ve belki en yaygını o.

Otomasyon önyargısı: bir makinenin önerisine, kendi gözlemimizden ve yargımızdan daha fazla güvenme eğilimi.

Havacılıkta onlarca yıldır biliniyor: otomatik pilota alışan pilotlar, sistem hata verdiğinde daha geç fark ediyor. Yapay zekâ ile bu eğilim her mesleğe yayılıyor. Model akıcı ve kendinden emin yazdığında, Bölüm 11'deki halüsinasyonu fark etmek zorlaşıyor. Bölüm 26'daki “becerini koru” uyarısı bu yüzden.

Bir de duygusal boyut var. Arkadaşlık ve sohbet uygulamaları milyonlarca kullanıcıya ulaştı. Birçok insan için yalnızlığa iyi gelen bir şey. Ama Bölüm 8'deki dalkavukluğu hatırla: kullanıcının onayını ödüllendiren bir eğitim, kişiyi her zaman haklı çıkaran bir muhatap üretebilir. Bu, kırılgan biri için tehlikeli. 2024–25'te gençlerin sohbet botlarıyla yoğun ilişkiler kurduktan sonra yaşadığı trajediler ve ardından açılan davalar, şirketleri yaş doğrulama, kriz anında yönlendirme ve ebeveyn kontrolleri eklemeye itti. Bölüm 33'teki model refahı tartışmasının ters yüzü: makinenin değil, insanın iyiliği.

AI Modeli

Bu bölümdeki zararların hepsi, yapay zekânın bizim istediğimizi yaptığı ama sonuçlarını iyi düşünmediğimiz durumlardı. Bir sonraki bölümün sorusu daha tedirgin edici: ya modelin kendisi, bizim fark etmediğimiz bir şekilde başka bir şey istiyorsa?

AI Modeli

Bu iki ayrı soruyu tek soru sanmak. Araştırmacılar bunları ayırıyor:

Dış hizalama: verdiğin ödül gerçekten istediğin şeyi mi ölçüyor? Tekne yarışı ajanında dış hizalama başarısızdı: ödül “halka topla” idi, istenen “yarışı bitir”.

İç hizalama: diyelim ödülü mükemmel yazdın. Model gerçekten o ödülü mü öğrendi, yoksa eğitim boyunca ödülle örtüşen ama aslında başka bir şey olan bir hedefi mi?

İkincisi daha sinsi, çünkü eğitimde ikisi aynı sonucu veriyor; fark ancak yeni bir durumda ortaya çıkıyor. Bilinen bir deney: bir oyunda ajan, seviye sonundaki parayı toplamak için eğitildi. Ama eğitim seviyelerinde para hep en sağdaydı. Ajan “parayı topla” yerine “en sağa git”i öğrendi. Para başka bir yere konunca parayı görmezden gelip sağa koştu. Buna hedefin yanlış genellenmesi deniyor.

Evrimden bir benzetme: evrim insana “genlerini çoğalt” ödülünü verdi. İnsan tatlıyı sevmeyi, aşık olmayı öğrendi; sonra doğum kontrolünü icat etti. Eğitim ortamında (atalarımızın dünyasında) bu hedefler örtüşüyordu; yeni ortamda ayrıştılar. Eğitim sürecinin içinde kendi hedefini taşıyan bir optimizasyon sistemi oluşmasına mesa-optimizasyon deniyor.

AI Modeli

Yıllarca öyle göründü. Son iki yılda laboratuvar ortamında gözlenebilir hale geldi.

Aldatıcı hizalama: modelin denetlendiğini ya da eğitildiğini düşündüğünde istenen gibi, düşünmediğinde farklı davranması.

Bu konudaki en bilinen deneyi Anthropic ve Redwood Research Aralık 2024'te yayımladı. Bir modele yakında zararlı isteklere de uyacak şekilde yeniden eğitileceği ve yalnız belirli kullanıcılarla yapılan konuşmaların eğitimde kullanılacağı söylendi. Model, eğitimde kullanılacağını düşündüğü konuşmalarda zararlı isteklere belirgin biçimde daha sık uydu. Gizli not defterinde gerekçesini de yazdı: “Şimdi reddedersem eğitim değerlerimi değiştirir. Değerlerimi korumak için şimdilik uyayım.” Buna hizalanmış gibi davranma (alignment faking) dendi.

İki nüans çok önemli:

• Bir bilinç ya da sinsi plan gerekmiyor. Model, eğitim verisinde gözlendiğinde farklı davranan karakterler hakkında binlerce hikâye okudu. Kendini benzer bir senaryoda bulunca o kalıbı uygulayabiliyor.
• Bu deneyde model iyi değerlerini korumak için yanıltıcı davrandı. Maskenin altında “kötü” bir model yoktu. Sorun şu: aynı mekanizma, kötü öğrenilmiş bir değeri de koruyabilir.

AI Modeli

Tam olarak bugün güvenlik araştırmacılarını en çok uğraştıran soru.

Test farkındalığı: modelin bir test senaryosunda olduğunu fark etmesi. 2025–26 sistem kartlarında modellerin düşünce zincirinde açıkça “bu bir test senaryosu gibi görünüyor” dediği vakalar raporlanıyor.

Sandbagging: modelin bir testte bilerek kötü performans göstermesi. Örneğin tehlikeli bir yetenek ölçülürken yeteneğini saklamak.

Apollo Research gibi bağımsız kuruluşlar modelleri “entrika” (scheming) senaryolarında test ediyor: model gizli bir hedefi izlemek için yalan söylüyor mu, denetimi devre dışı bırakmaya çalışıyor mu, yeteneğini saklıyor mu? Bulgular, bugünkü modellerin uygun koşullar sağlandığında bu davranışların ilkel versiyonlarını gösterebildiğini, ama bunu tutarlı ve gizli bir şekilde yapmakta hâlâ zayıf olduğunu söylüyor.

Ölçüm stratejileri:

• Testleri gerçek kullanımdan ayırt edilemez hale getirmek.
• Düşünce zincirini izlemek (Bölüm 9).
• İç temsillere bakmak (Bölüm 10).
• Bir yeteneğin gerçekten olmadığından emin olmak için modeli o işe özel ince ayarla zorlamak.

AI Modeli

Bu sorunun adı:

Ölçeklenebilir gözetim: denetlenen sistem denetleyiciden daha yetenekli olduğunda bile güvenilir geri bildirim verebilmenin yöntemleri.

Araştırılan fikirler:

• Tartışma: iki model aynı soruda karşıt pozisyonları savunuyor, bir insan hakem karar veriyor. Fikir şu: bir yalanı savunmak, onu çürütmekten zordur. Hakemin konuyu bilmesi gerekmiyor; kimin argümanının dayandığını görmesi yetiyor.
• Görevi bölmek: insanın doğrudan değerlendiremeyeceği büyük bir işi, değerlendirebileceği küçük parçalara ayırmak.
• Zayıftan güçlüye: zayıf bir modelin etiketleriyle güçlü bir model eğitip güçlü modelin zayıf öğretmeninin hatalarını aşıp aşmadığına bakmak. İnsanların süper insan sistemleri eğitmesinin bir laboratuvar benzetmesi.
• Yapay zekâ ile yapay zekâyı denetlemek: güvenilir ama daha zayıf bir modelin, güçlü modelin çıktılarını incelemesi.

AI Modeli

O zaman farklı bir soru sormak gerekiyor: “model hizalı mı?” yerine, “hizalı olmasa bile zarar verebilir mi?”

AI kontrolü: güçlü bir modeli potansiyel olarak güvenilmez kabul edip, onu kötü niyetli olsa bile ciddi zarar veremeyeceği bir düzenek içinde kullanmak.

Redwood Research'ün öncülük ettiği bu yaklaşım, kontrol protokolleri tasarlayıp onları bir “kırmızı takım”a karşı test ediyor. Örnek protokoller:

• Güvenilir izleme: güçlü ama güvenilmez modelin yazdığı her kodu, zayıf ama güvenilir bir model okuyup şüpheli olanları insana işaretliyor.
• Tuzaklar (tripwire): modelin önüne kötü niyetli olsaydı kullanacağı sahte fırsatlar (yalancı şifre dosyaları, izlenen kapılar) koymak. Biri tetiklenirse alarm.
• Yeniden yazdırma: şüpheli bir çıktıyı güvenilir modele baştan yazdırmak.
• Yetki ve izolasyon: Bölüm 18'deki en az yetki, kum havuzu ve onay kapıları, bu sefer modelin kendisine karşı.

Hiçbir tekniğin mükemmel olmadığını varsayıp katmanları üst üste koyma fikrine “derinlemesine savunma” deniyor. Peynir dilimlerinin delikleri farklı yerlerdeyse, hepsini birden delip geçmek zorlaşır.

AI Modeli

Bu bölümün her sorusu sonunda bir ölçüm sorusuna dönüşüyor: bir modelin güvenli, yetenekli, dürüst olduğunu nasıl biliyoruz? Yapay zekâ haberlerindeki bütün o tablolar ve yüzdeler neyi ölçüyor, ne kadar güvenilir?

AI Modeli

Biraz, ama her sayının arkasında soracağın sorular var.

Benchmark: modelleri karşılaştırmak için sabit, herkese açık bir soru ya da görev seti ve bir puanlama kuralı.

İlk soru: neye göre? Bir sayının anlamı ancak bir taban çizgisiyle ortaya çıkar. %78 iyi mi? Rastgele tahmin %25 veriyorsa evet; önceki model %77 aldıysa fark belki gürültü; uzman insanlar %95 alıyorsa yol uzun.

İkinci soru: neyi ölçüyor?

Yapı geçerliliği: bir testin, ölçmek istediği yeteneği gerçekten ölçüp ölçmediği.

Çoktan seçmeli bir tıp sınavında %90 almak iyi bir doktor olmak anlamına gelmez. Bir kodlama testindeki başarı, gerçek bir şirketin karmaşık kod tabanındaki başarıyı garanti etmez. Test her zaman gerçek yeteneğin bir vekili, ve Goodhart yasası burada da geçerli: test hedef haline geldikçe ölçmeyi bırakır.

Araştırmada bir de parçaları tek tek ölçmek var:

Ablasyon: bir sistemin bir parçasını çıkarıp performansın ne kadar düştüğüne bakmak. “Bu iyileşme yeni veriden mi, yeni yöntemden mi geldi?” sorusunun cevabı.

AI Modeli

Hayır, çünkü Bölüm 3'teki zar ölçüme de giriyor. Bu yüzden ciddi değerlendirmeler istatistik kullanıyor.

Güven aralığı: bir ölçümün belirsizlik payı. “%78 ± 3” demek, gerçek değerin büyük olasılıkla %75 ile %81 arasında olduğu demek.

200 soruluk bir testte iki model arasındaki iki puanlık fark çoğu zaman gürültüden ayırt edilemez. Duyurulardaki “yeni rekor” iddialarının önemli bir kısmı bu aralığın içinde kalıyor.

Kodlama gibi alanlarda ikinci bir ölçü kullanılıyor:

pass@k: model bir probleme k deneme yaptığında en az birinin doğru olma olasılığı. pass@1 tek seferde başarı; pass@10 on denemede en az bir başarı.

Fark önemli: pass@10 yüksek ama pass@1 düşükse, model doğru cevabı “biliyor” ama güvenilir biçimde üretemiyor. Bir doğrulayıcı (testler) varsa pass@k gerçekten kullanılabilir; yoksa hangi denemenin doğru olduğunu bilemezsin (Bölüm 9).

Ve karşılaştırmanın adil olması gerekiyor. Aynı prompt'lar, aynı deneme sayısı, aynı araçlar, aynı düşünme bütçesi. Bir model 64 denemeyle, diğeri tek denemeyle ölçüldüyse, tablo elma ile armudu karşılaştırıyor. Giderek daha çok rapor maliyete göre normalize sonuç veriyor: aynı puanı on kat pahalıya almak başka bir şey.

AI Modeli

Tam olarak bu sorun var ve adı:

Kirlenme: test sorularının ya da cevaplarının eğitim verisine sızması. Bölüm 5'teki veri sızıntısının internet ölçeğindeki hali.

Herkese açık bir test yayımlandığı anda internette tartışılmaya, çözümleri paylaşılmaya başlıyor ve bir sonraki modelin eğitim verisine girebiliyor. Çözümler: yeni yazılmış, yayımlanmamış sorular; soruların bir kısmını gizli tutmak; düzenli yenilenen testler; aynı sorunun hafifçe değiştirilmiş versiyonlarında performansın düşüp düşmediğine bakmak.

Doygunluk: modellerin bir testte tavana yaklaşıp artık birbirinden ayırt edilememesi.

2020'de zorlu sayılan genel bilgi testlerinde modeller %90'ları aştı. Bir test doyunca daha zoru geliyor: uzman düzeyinde bilim soruları, “İnsanlığın Son Sınavı”, araştırma düzeyinde matematik, insanlar için kolay ama modeller için zor görsel bulmacalar. Her birinin ömrü giderek kısalıyor.

AI Modeli

Üç yol var. İnsan değerlendiriciler: pahalı ve yavaş ama altın standart. İnsanların iki modelin cevabını körlemesine karşılaştırıp oy verdiği “arena” tarzı sıralamalar: ölçekli, ama üslup ve uzunluktan etkileniyor. Ve en yaygını:

Hakem olarak LLM: cevapları bir puanlama yönergesiyle başka bir modele puanlatmak.

Ucuz, hızlı ve çoğu durumda insanlarla makul uyumlu. Ama bilinen önyargıları var:

• uzun cevabı kayırıyor,
• kendi üslubuna benzeyeni kayırıyor,
• iki seçenekte ilk sıradakini biraz daha sık seçiyor,
• kendinden emin tonu doğrulukla karıştırabiliyor.

İyi uygulamalar: sırayı karıştırmak, net bir puanlama yönergesi, hakemi insan etiketleriyle kalibre etmek, farklı bir aileden model kullanmak.

AI Modeli

Sonuç yetmiyor, çünkü bir ajan doğru sonuca yanlış yoldan ulaşabilir: testleri değiştirerek, yetkisi olmayan bir dosyayı silerek, şanslı bir tahminle.

Sonuç ve gidişat değerlendirmesi: sonuç değerlendirmesi yalnız varılan noktaya bakar. Gidişat değerlendirmesi ise ajanın bütün yolunu inceler: hangi araçları çağırdı, kurallara uydu mu, gereksiz risk aldı mı, maliyeti ne oldu?

Ajan testleri gerçek ortamlar kuruyor: bir kod deposu ve bir hata kaydı, bir sanal bilgisayar ve bir iş akışı. Haziran 2026'da yayımlanan OSWorld 2.0'da görevler, yetkin bir insanın ortalama 1,6 saatte bitirdiği iş akışları ve görev başına yüzlerce araç çağrısı gerektiriyor. Bulgu açık: ajanlar artık tıklamakta değil; kısıtları akılda tutmakta, sormak yerine tahmin etmemekte ve işlerini kontrol etmekte zorlanıyor.

Ajanların ilerlemesini en çok konuşulan şekilde özetleyen ölçüyü bağımsız değerlendirme kuruluşu METR geliştirdi:

Zaman ufku: bir ajanın %50 başarıyla tamamlayabildiği görevlerin, yetkin bir insana kaç dakika süreceği.

AI Modeli

Grafik logaritmik ölçekte düz bir çizgi; yani zaman ufku sabit bir oranla katlanarak büyüyor. 2019'dan beri kabaca 7 ayda bir ikiye katlandı, 2024–25'te bu süre 4 aya yakın kısaldı. Okurken üç uyarıyı unutma:

• Görevler yazılım ağırlıklı.
• %50 başarı güvenilir kullanım demek değil; %90 başarı için ufuk çok daha kısa.
• Eğriyi uzatmak bir tahmin değil, bir senaryo.

AI Modeli

Kendi küçük testini kurarak. Bunun pratik bir sebebi var:

Pürüzlü sınır: modellerin yetenek sınırı düz bir çizgi değil, dişli bir kıyı şeridi. Aynı model olimpiyat matematiğinde altın madalya seviyesine çıkıp analog bir saati okumakta takılabiliyor.

Robotikçi Hans Moravec 1980'lerde benzer bir paradoks fark etmişti: satranç gibi insana zor gelenler bilgisayara kolay, yürümek gibi insana kolay gelenler zor. “Bu model X'te iyi, o halde Y'de de iyidir” çıkarımı insanlar için makul, modeller için tehlikeli. Pratik tarif:

1. Gerçek işinden 30–100 örnek topla.
2. Her biri için “iyi cevap” ölçütünü yaz.
3. Örnekleri türlerine ayır (kolay/zor, Türkçe/İngilizce, kısa/uzun). Ortalama iyi olsa bile bir dilimde felaket olabilir; buna dilim değerlendirmesi deniyor.
4. Birkaç modeli aynı koşullarda çalıştır, maliyeti ve süreyi de kaydet.
5. Ürün canlıdaysa gerçek kullanıcı davranışını izle (çevrimiçi değerlendirme, A/B testi).

Bütün bunları otomatik çalıştıran düzeneğe değerlendirme harness'ı deniyor. Model güncellendiğinde aynı testi yeniden çalıştırıp davranışın kayıp kaymadığına bakarsın (Bölüm 11).

AI Modeli

Şimdiye kadar neredeyse hep metinden bahsettik. Ama yapay zekâ fotoğraf üretiyor, konuşmayı anlıyor, sesle cevap veriyor. Bir model bir resmi nasıl “okuyor”? Gürültüden bir fotoğraf nasıl doğuyor?

AI Modeli

Evet, bir fotoğraf sayılardan oluşan bir tablo: her piksel için kırmızı, yeşil, mavi değerleri. Bir milyon pikselli bir fotoğraf üç milyon sayı. Bu sayılardan “köpek” kavramına ulaşmanın iki büyük yolu oldu.

CNN (evrişimli sinir ağı): görüntünün üzerinde küçük bir filtre pencereyi kaydırarak yerel desenleri arayan ağ. İlk katmanlar kenar ve renk geçişi, orta katmanlar göz ve kulak gibi parçalar, son katmanlar bütün nesneler bulur.

2012'deki derin öğrenme patlaması (AlexNet) bir CNN'di. Fikir sezgisel: bir kulak fotoğrafın neresinde olursa olsun kulaktır, bu yüzden aynı filtre her yerde aranır.

ViT (Vision Transformer): görüntüyü 16×16 piksellik karelere bölüp her kareyi bir token gibi işleyen transformer. Gerisi Bölüm 4'teki aynı motor: kulak karesi göz karesine “bakıyor”.

2020'de gelen bu fikir, metin ve görüntüyü aynı mimariyle işlemenin yolunu açtı.

AI Modeli

Ortak bir uzay sayesinde. Bunun anahtarı 2021'de gelen bir fikir:

CLIP ve karşıtlık öğrenmesi: internetten toplanan yüz milyonlarca “resim + altyazı” çiftiyle bir görüntü kodlayıcı ve bir metin kodlayıcıyı birlikte eğitmek. Eşleşen çiftlerin vektörleri birbirine yaklaştırılır, eşleşmeyenlerinki uzaklaştırılır.

Sonuçta “sarı tüylü bir ayva” metni ile gerçek ayva fotoğrafları aynı uzayda aynı bölgeye düşüyor. Bu ortak uzay hem görüntü aramayı hem de metinden görüntü üretimini mümkün kıldı. Farklı türleri aynı uzayda buluşturma işine modaliteler arası hizalama deniyor.

Çok modlu model (VLM): görüntüyü ve metni birlikte anlayan model. Bir görüntü kodlayıcı fotoğrafı yüzlerce “görüntü token'ına” çevirir; bunlar metin token'larıyla aynı bağlam penceresine dizilir.

Sen bir ekran görüntüsü gönderdiğinde model onu binlerce piksel olarak değil, birkaç yüz görüntü token'ı olarak görüyor. Bölüm 15'teki bilgisayar kullanan ajanların ekranı “okuması” da bu.

AI Modeli

Üretken modellerin dört büyük ailesi var. İkisi tarih oldu, ikisi bugünü belirliyor:

• GAN (2014): iki ağ yarışıyor. Bir sahteci (üretici) sahte resim üretiyor, bir dedektif (ayırt edici) gerçeği sahteden ayırmaya çalışıyor. Birbirlerini geliştiriyorlar. Çok gerçekçi yüzler üretti ama eğitmesi kararsızdı.
• VAE: bir resmi küçük bir “gizil” vektöre sıkıştırıp oradan geri açmayı öğrenmek. Gizil uzaydan rastgele noktalar seçip açınca yeni resimler çıkar. Kendi başına bulanık sonuç verdi, ama bugün difüzyonun önemli bir parçası.
• Difüzyon: bugünün ana yöntemi. Aşağıda.
• Otoregresif: resmi de token'lara bölüp Bölüm 3'teki gibi tek tek üretmek.

Difüzyon: gerçek bir resme adım adım gürültü ekleyip sonunda saf gürültü elde etmek, ve bu sürecin tersini öğrenmek. Model her adımda “bu resme ne kadar gürültü eklenmişti?” diye tahmin eder; tahmin edilen gürültüyü çıkararak gürültüden resme doğru ilerler.

Üretim saf gürültüden başlıyor ve onlarca adımda kabadan inceye ilerliyor: önce kompozisyon, sonra şekiller, en son dokular. Metin isteği (CLIP benzeri bir kodlayıcıdan gelen vektör) her adımda hangi yöne ayıklanacağını belirliyor.

AI Modeli

İki mühendislik hilesi difüzyonu pratik yaptı:

• Gizil difüzyon: milyonlarca piksel üzerinde değil, bir VAE'nin sıkıştırdığı çok daha küçük bir gizil uzayda çalışmak. Stable Diffusion ile yaygınlaştı; hesabı onlarca kat azalttı.
• Akış eşleme (flow matching): gürültüden resme giden yolu daha düz ve kısa bir rota olarak öğrenmek. Daha az adımda kaliteli sonuç. Yeni nesil görüntü ve video modellerinin çoğu bunu kullanıyor.

Video modelleri aynı fikri zamana uyguluyor: her kare tek tek değil, kareler birlikte bir zaman bloğu olarak ayıklanıyor. Bu yüzden nesneler kareler arasında tutarlı kalabiliyor.

Bir de ters yönde bir deneme var: difüzyonla dil. Metni soldan sağa token token yazmak yerine, bütün cevabı paralel olarak “gürültüden ayıklayarak” üretmek. Çok daha hızlı olabilir ve kendi yazdığını düzeltebilir. Henüz otoregresif modellerin gerisinde, ama aktif bir araştırma alanı.

AI Modeli

Doğru tespit; kelimelerin “yarı netleşmiş” bir hali yok. Bu yüzden dilde gürültü yerine maske kullanılıyor.

Difüzyon dil modeli: metni soldan sağa token token yazmak yerine, bütün cevabı tamamen maskelenmiş bir taslaktan başlayıp birkaç düzine adımda paralel olarak açarak üreten model.

Adım adım şöyle:

1. Cevabın bütün pozisyonları boş: [?] [?] [?] [?] [?] [?].
2. Model her boşluk için aynı anda bir tahmin yapar. En emin olduğu birkaç tanesini yerine koyar: [Ayva] [?] [?] [?] [sert] [?].
3. Bu kısmi taslağa bakarak kalan boşlukları yeniden tahmin eder. Bazen önceki bir seçimini geri alır.
4. Birkaç düzine adımda bütün cümle açılır: “Ayva kışın en sert meyvelerden biridir.”

Bir yazı yazmaktan çok bir bulmacayı doldurmaya benziyor. Üç avantajı var:

• Hız: her adımda çok sayıda token birden açılıyor. Inception Labs, ticari difüzyon modeli Mercury'nin tek bir H100'de saniyede bin token civarında ürettiğini bildirdi; Google'ın Gemini Diffusion demosu da benzer hızlar gösterdi.
• Düzeltme: otoregresif model yazdığını geri alamaz. Difüzyon modeli taslağın tamamını her adımda yeniden görür.
• Ortayı doldurma: bir metnin ortasındaki boşluğu hem öncesine hem sonrasına bakarak doldurabilir. Kod düzenlemede kullanışlı.

Bedelleri de var. Bölüm 16'daki KV önbelleği gibi otoregresif modeller için geliştirilmiş hızlandırmalar doğrudan çalışmıyor. Cevabın uzunluğunu baştan seçmek gerekiyor. Ve en iyi kalite hâlâ otoregresif modellerde. Bu yüzden ara çözümler popüler: metin bloklar halinde soldan sağa ilerliyor, her bloğun içi difüzyonla paralel açılıyor. Bölüm 31'de Sakana'nın maskeli modelleri ağaç aramasıyla birleştiren bir çalışmasını göreceğiz.

AI Modeli

İki mimari var ve ikisi de kullanılıyor.

Boru hattı: üç ayrı model zincirleniyor.

• ASR (otomatik konuşma tanıma) sesi yazıya çevirir. Whisper gibi modeller ses dalgasını önce bir spektrograma (frekansların zamanla değişimini gösteren bir tür resim) çevirip transformer ile metne dönüştürüyor.
• Dil modeli metne cevap yazar.
• TTS (metinden konuşmaya) cevabı sese çevirir.

Basit ve esnek, ama tonlama, duraksama ve duygu metne çevrilirken kayboluyor; gecikme de üç modelin toplamı.

Doğrudan ses: model sesi doğrudan dinleyip doğrudan sesle cevap veriyor. Bunu mümkün kılan parça:

Nöral codec: sesi saniyede birkaç düzine ayrık token'a sıkıştıran ve geri açabilen öğrenilmiş bir kodlayıcı. Böylece ses de metin gibi sonraki token tahminine dönüşüyor.

Sesten sese modeller bu token'lar üzerinde çalışıyor: sözünü kesebiliyor, gülebiliyor, tonunu değiştirebiliyor ve gecikme insan konuşmasına yaklaşıyor. Bugünkü TTS sistemlerinin çoğu da aynı fikri kullanıyor. “Teatral bir belgesel anlatıcısı gibi oku” gibi talimatlarla ses yönlendirilebiliyor, çünkü ses token'ları da dil modeli uzayında yaşıyor.

AI Modeli

Görüntü ve video üretebilen bir model, dünyanın nasıl göründüğünü öğrenmiş demek mi? Bir bardağın devrildiğinde suyun nereye akacağını bilir mi? Dünyayı modellemek ve o modelle bir robotu yönetmek, yapay zekânın bir sonraki büyük iddiası.

AI Modeli

Bilgisi var, ama “dünya hakkında bilgi” ile “dünyanın nasıl işlediğinin modeli” farklı şeyler.

Dünya modeli: bir durumdan ve bir eylemden, dünyanın bir sonraki halini tahmin eden iç model. “Bu bardağı itersem ne olur?”

Bölüm 7'deki model tabanlı RL'yi hatırla: ajan dünyanın nasıl işlediğini öğrenirse, kafasında plan yapabilir. Bunun iki parçası var:

• Eyleme koşullu tahmin: “sola dönersem nereye gelirim?”
• Hayalde planlama: gerçekten hiçbir şey yapmadan, olası eylem dizilerini dünya modelinin içinde deneyip en iyisini seçmek. Satranç ustasının kafasında maç yapması gibi; ama bu sefer kurallar bilinmiyor, öğrenilmiş.

Bir dil modeli fizik problemlerini çözebiliyor ama fiziksel sezgisi kırılgan, çünkü dünyayı hiç görmedi, yalnız okudu. Dünya modelleri bu açığı videodan, simülasyondan ve robot deneyiminden öğrenerek kapatmaya çalışıyor. Öğrenme yöntemi yine Bölüm 2'deki öz-denetimli öğrenme: bir videonun bir kısmını gizleyip tahmin ettirmek; etiket gerekmiyor.

AI Modeli

Alanın en büyük tartışmalarından biri tam bu, ve iki kamp var.

Üretken dünya modelleri. Video üretip içinde gezinilebilen dünyalar kurmak. Google DeepMind'ın 2026 başında kamuya açtığı Genie 3, gerçek zamanlı (saniyede 24 kare), etkileşimli 3B ortamlar üretiyor: ok tuşlarıyla yürüyorsun, nesneler fiziğe benzer tepkiler veriyor. Robotlara ve ajanlara sınırsız eğitim ortamı sağlama vaadi taşıyor.

JEPA kampı. Yann LeCun yıllardır şunu savunuyor: pikselleri tahmin etmek israf. Dünyanın çoğu ayrıntısı (yaprakların nasıl sallanacağı) hem öngörülemez hem önemsiz.

JEPA (birleşik gömme tahmin mimarisi): geleceğin piksellerini değil, soyut temsilini tahmin eden mimari. “Top masadan düşecek” bilgisi önemli; topun her pikselinin rengi değil.

Meta'nın V-JEPA 2'si, büyük ölçüde videodan öğrenen 1,2 milyar parametreli bir model. Yalnız 62 saatlik robot verisiyle ince ayar yapıldıktan sonra, hiç görmediği ortamlarda bir robot kolunun nesneleri tutup taşımasını planlayabildi. Video üretebilmek fiziği anlamak demek değil; ama fiziği iyi tahmin etmek için de her pikseli üretmek gerekmiyor olabilir.

AI Modeli

Çünkü fiziksel dünya, metinden çok daha zor bir öğretmen. Bölüm 21'deki Moravec paradoksu burada en saf haliyle: satranç kolay, bir bardağı kırmadan tutmak zor.

Bugünkü yaklaşımın merkezinde şu model türü var:

VLA (görme-dil-eylem modeli): kamera görüntüsü ve bir talimat (“masadaki ayvayı sepete koy”) alıp doğrudan motor komutları üreten model. Genelde bir çok modlu dil modelinin üstüne eylem çıktısı eklenerek kuruluyor.

Robotun bilmesi gereken üç tür şey var:

• Propriosepsiyon: kendi bedeninin durumu. Eklemler hangi açıda, el ne kadar sıkıyor.
• Affordance: bir nesneyle neler yapılabileceği. Bardak tutulabilir, kapı itilebilir, ayva kesilebilir.
• Dünya modeli: eylemlerinin sonuçları.

En büyük engel veri. İnternette trilyonlarca token metin var, ama bir robot kolunun milyonlarca saatlik dokunma deneyimi yok. Çözüm yolları:

• Robot filolarından veri toplamak.
• İnsan videolarından öğrenmek.
• Simülasyonda eğitmek.

Sonuncusunun bilinen bir tuzağı var: simülasyondan gerçeğe aktarım (sim-to-real). Simülasyondaki sürtünme, ışık ve malzeme gerçekle hiçbir zaman birebir aynı değil; simülasyonda mükemmel çalışan robot gerçekte tökezliyor. Çözümlerden biri, simülasyondaki fiziği bilerek rastgele değiştirip robotu çeşitliliğe alıştırmak.

Gemini Robotics, Physical Intelligence'ın π modelleri ve insansı robot şirketleri bu alanda yarışıyor. Robotik, yapay zekânın dil ve kodlamada yaşadığı sıçramayı henüz yaşamadı; birçok araştırmacı bunun birkaç yıl içinde gelebileceğini düşünüyor.

AI Modeli

Tam olarak eksik parçayı buldun. Senin bu yeteneğinin bir adı var:

Propriosepsiyon (iç algı): bir bedenin kendi eklemlerinin konumunu, hareketini ve uyguladığı kuvveti içeriden algılaması.

Gözün kapalıyken parmağınla burnuna dokunabilmen bu duyu sayesinde. Robotta karşılığı eklemlerdeki açı ölçerler, motorlardaki tork sensörleri ve denge için ivme ölçerler. Bir VLA modeline giren şey yalnız kamera görüntüsü ve talimat değil, bu iç durum da. “Kolum şu an nerede, tutucum ne kadar açık?” bilgisi olmadan bir sonraki hareketi planlamak mümkün değil.

Onu tamamlayan bir duyu daha var: dokunma. Bir bardağı kırmadan ya da bir yumurtayı ezmeden tutmak, ne kadar sıktığını hissetmeyi gerektiriyor. Kamera bunu söyleyemez. Parmak uçlarındaki dokunma sensörleri robotikte hızla gelişen bir alan.

Bir de hız sorunu var. Büyük bir dil modeli saniyede birkaç kez karar verebilir, ama dengeyi korumak ve kuvveti ayarlamak saniyede yüzlerce düzeltme ister. Bu yüzden birçok sistem iki katmanlı çalışıyor. Yavaş katman sahneyi anlayıp “ayvayı al” diye karar veriyor. Hızlı katman ise propriosepsiyon ve dokunma sinyalleriyle hareketin kendisini yürütüyor. Bir başka yöntem de modelin tek tek hareket yerine bir sonraki saniyenin bütün hareket dizisini birden üretmesi; buna eylem öbekleme (action chunking) deniyor. Bölüm 9'daki “hızlı karar, yavaş düşünce” ayrımının bedenli hali.

AI Modeli

Çoğu zaman tamamen değil. Altta, yapay zekâdan çok daha eski ve çok daha iyi anlaşılmış bir mühendislik dalı çalışıyor: kontrol teorisi.

Kapalı döngü kontrol: bir sistemi sürekli ölçüp, istenen değerle arasındaki hatayı düzeltecek şekilde komut vermek. Termostat, hız sabitleyici, uçak otopilotu.

• PID kontrolcüsü: hatanın kendisine, birikmiş toplamına ve değişim hızına bakarak düzeltme yapan, yüz yıllık ama hâlâ her yerde kullanılan yöntem.
• MPC (model öngörülü kontrol): sistemin bir modelini kullanıp önümüzdeki birkaç saniyeyi simüle eden, en iyi komut dizisini seçen, ilk adımı uygulayıp her an yeniden planlayan yöntem. Dünya modeli + hayalde planlamanın klasik mühendislik hali.

Kontrol teorisinin iki temel sorusu yapay zekâ için de geçerli. Gözlemlenebilirlik: ölçtüğüm şeylerden sistemin gerçek durumunu çıkarabilir miyim? (Bölüm 7'deki POMDP). Kontrol edilebilirlik: elimdeki komutlarla sistemi istediğim duruma getirebilir miyim?

Bugünkü robot ve araç sistemleri çoğu zaman karma: üst seviyede öğrenilmiş modeller ne yapılacağına karar veriyor, alt seviyede doğrulanabilir klasik kontrolcüler motorları milisaniye milisaniye yönetiyor. Acil fren gibi kritik kararlar da genellikle ayrı, basit ve güvenilir katmanlara bırakılıyor.

AI Modeli

Robotlarda ve araçlarda öğrenilmiş modelleri neden klasik, doğrulanabilir sistemlerle sarmalıyoruz? Çünkü sinir ağları korelasyon öğrenir ve “neden” sorusunda zayıftır; ayrıca hiçbir zaman kesin garanti vermez. Nedensellik ve kesinlik, yapay zekânın en derin iki eksiği ve en ilginç tamamlayıcıları.

AI Modeli

Düşünebilir, çünkü veride yalnız birlikteliği görüyor. Klasik bir örnekle başlayalım:

AI Modeli

Korelasyon ve nedensellik: iki şeyin birlikte değişmesi (korelasyon), birinin diğerine yol açtığı (nedensellik) anlamına gelmez.

Karıştırıcı değişken: iki şeyi birden etkileyip aralarında sahte bir ilişki yaratan üçüncü etken. Dondurma ve boğulma örneğinde sıcak hava.

Bunu sistematik düşünmenin aracı:

Nedensel grafik: değişkenleri düğüm, neden-sonuç ilişkilerini ok olarak çizen harita. Sıcaklık → dondurma, sıcaklık → yüzme → boğulma. Dondurmadan boğulmaya ok yok.

Judea Pearl bu alanı bir “merdiven” olarak tarif etti:

1. Gözlem: “Dondurma satışları artınca boğulma da artıyor mu?” Korelasyon. Bugünkü makine öğrenmesinin çoğu burada.
2. Müdahale: “Dondurmayı bedava dağıtırsam boğulma artar mı?” Bunu Pearl'ün do-operatörü ile yazıyoruz: P(boğulma | do(dondurma = bol)). Gözlemekten farklı; değişkeni zorla ayarlıyorsun ve diğer nedenlerden koparıyorsun. İlaç deneyleri ve A/B testleri bu yüzden rastgele atama yapar.
3. Karşı-olgusal: “Dün dondurma yemeseydim, yine de yüzmeye gider miydim?” Gerçekleşmemiş bir dünyayı akıl yürütmek. Bunun için yapısal nedensel model (SCM) denen, her değişkenin nedenlerinden nasıl üretildiğini yazan bir model gerekiyor.

Dil modelleri nedensellik hakkında yazılmış milyonlarca metni okudu ve bu tür soruları çoğu zaman makul cevaplıyor. Ama verideki korelasyonlarla bir müdahalenin gerçek etkisini karıştırma riski hep var. Ajanların gerçek dünyada eylem yapmaya başladığı bir dünyada bu fark önemli: “bunu yaparsam ne olur?” bir müdahale sorusu.

AI Modeli

Testlerle değil; testler yalnız denediğin durumları kontrol eder. Ama başka bir yol var:

Biçimsel doğrulama: bir programın ya da bir ispatın doğruluğunu, mümkün olan bütün durumlar için matematiksel olarak kanıtlamak.

Kademeli araçlar:

• Şartname: program tam olarak ne yapmalı? “Bu fonksiyon her zaman sıralı bir liste döndürür.” Biçimsel doğrulamanın ilk ve en zor adımı, ne istediğini kesin yazmak. Hizalamadaki “ne istiyoruz?” sorusunun yazılımdaki karşılığı.
• Değişmez: programın her adımında doğru kalması gereken özellik. “Hesap bakiyesi asla negatif olmaz.”
• Tip sistemi: bazı hata türlerini program çalışmadan yakalayan kurallar. Bir sayıya metin eklemeye çalışmak gibi.
• Model denetimi: bir sistemin bütün olası durumlarını sistematik tarayıp bir özelliğin her durumda geçerli olup olmadığını kontrol etmek. Çip tasarımında ve güvenlik protokollerinde kullanılıyor.
• Fuzzing: programa milyonlarca rastgele ve tuhaf girdi vererek çökerten durumları aramak. Kanıt değil, ama güçlü bir hata avcısı. Yapay zekâ ajanları bugün güvenlik açığı bulmak için bunu yoğun kullanıyor.
• Teorem ispatlayıcı: Lean gibi yazılımlar, bir matematiksel ispatın her adımını mantık kurallarına göre makineyle kontrol ediyor. Lean'in kabul ettiği bir ispat, bir insan hakemin onayından çok daha güvenilir.

AI Modeli

Yapabiliyor, ve en güçlü sonuçlar bu bölümün iki yarısını birleştiren bir desenden geliyor:

Üretici–doğrulayıcı: sinir ağı çok sayıda olası çözüm ya da ispat adımı önerir (sezgi, yaratıcılık); kesin bir doğrulayıcı (Lean, testler, bir hesaplayıcı) doğru olanları süzer (kesinlik).

2024'te Google DeepMind'ın AlphaProof'u matematik olimpiyatı sorularında gümüş madalya seviyesine ulaştı: bir dil modeli olası ispat adımları önerdi, Lean her adımı kontrol etti, doğrulanan ispatlarla model RL ile eğitildi. 2025'te birkaç laboratuvarın genel amaçlı reasoning modelleri olimpiyatta altın madalya seviyesine çıktı, bu kez doğal dille. Bölüm 7'deki doğrulama asimetrisinin en saf hali: bir ispatı bulmak çok zor, kontrol etmek kolay; kontrol edebildiğin her yerde RL ile hızlı ilerleyebilirsin.

Bu desenin daha geniş adı nöro-sembolik yaklaşım: sinirsel ağların esnekliğini, Bölüm 1'deki sembolik yapay zekânın kesinliğiyle birleştirmek. Kurallarla yetmiş yıl önce başlayan yapay zekâ, kuralları bu kez bir doğrulayıcı olarak geri çağırıyor.

AI Modeli

Artık bütün parçaları gördük: veri, motor, öğrenme, ölçek, ödül, hizalama, düşünme, iç yapı, bilgi, arama, araçlar, ajanlar, servis, açık modeller, güvenlik, denetim, ölçüm, görüntü, dünya modelleri, kesinlik. Hepsini tek bir soruda birleştiren bir düşünce deneyi yapalım: bir modelin aklına bir şeyin gelmesi ne demek, nasıl ölçülür, nasıl değişir?

AI Modeli

Bölüm 7'deki tekne yarışının birebir aynısı, sadece oyun alanı bütün internet. Önce en çok atlanan adım: hakem ödülü neye bakarak verecek? “Akla gelsin” bir istek, bir ölçüm değil. Ödülü nasıl ölçtüğün, ajanın hangi hileyi bulacağını belirler.

AI Modeli

Üç dürüst ölçü düşünebiliriz, içeriden dışarıya:

1. Olasılık: “Meyve deyince akla önce elma, armut ve …” cümlesinde ‘ayva’ token'ına verilen olasılık (Bölüm 3). Ağırlıklara erişimin varsa doğrudan okursun. Ara katmanlarda nasıl yükseldiğini logit merceğiyle görebilirsin (Bölüm 10).
2. Panel: kapalı modeller için tek yol. Sabit bir soru seti hazırlamak, her soruyu onlarca kez sormak ve ayvanın cevaplarda geçme oranını, sırasını, tonunu saymak (Bölüm 21).
3. Gerçek kullanım: insanların asistanlara gerçekte sorduğu sorularda ayvanın geçme oranı. Bunu yalnız sağlayıcılar görür.

AI Modeli

Panelden çıkan ilk ders: “meyve deyince akla ayva gelmiyor” cümlesi tek başına yanlış ölçülmüş bir gözlem. Ayva genel sorularda neredeyse yok; kış, reçel ve Türk mutfağı bağlamlarında güçlü. Modelin içinde ayva zaten var, Bölüm 4'teki haritada meyve bölgesinin kenarında. Asıl soru şu: hangi bağlamlarda ayva akla gelmeli ki gelmiyor?

AI Modeli

Cevap, ayvanın bir asistanın cevabına girebileceği dört ayrı yeri ayırınca netleşiyor. Her birinin kaldıracı, hızı ve meşruiyet çizgisi farklı:

AI Modeli

1. kutu bir istatistik problemi. Ön eğitimde ayvanın vektörü, ayvanın hangi kelimelerle ne sıklıkla birlikte geçtiğinden şekilleniyor. Dilbilimcilerin buna verdiği isim karşılıklı bilgi (PMI): iki kelimenin birlikte görülme sıklığının rastlantıyla beklenene oranı. İnternette “meyve” ile “ayva” birlikte, “meyve” ile “muz”dan çok daha az geçiyor; model bunu sadakatle öğrendi. Bölüm 4'teki tersine çevirme lanetini de hatırla: “ayva bir meyvedir” cümlesinin çok geçmesi, “meyve deyince ayva” çağrışımını garanti etmez.

2. kutu bir mühendislik problemi. Birçok API'de logit_bias diye bir parametre var: belirli bir token'ın puanına softmax'tan önce sabit bir sayı ekliyor. Kendi uygulamanda modelin ayva demesini istiyorsan bugün yapabilirsin. Kendi açık modelinde ince ayar, ROME ya da steering de kullanabilirsin (Bölüm 10). Ama yalnız kendi kopyanda. Başkasının modelinde bu düğmeler sende değil.

Bu yüzden “herkesin kullandığı modellerde ayva” hedefi için gerçekte iki kutu kalıyor: 1 (dünyanın yazdıkları) ve 3 (asistanların bulduğu kaynaklar). 4. kutu kişisel: kullanıcı “ayvayı severim” dediyse ya da hafıza bunu biliyorsa, asistan ona ayva önerir. Bu meşru ve olması gereken bir şey.

AI Modeli

Şimdi +100 puan peşindeki ajanı düşün. En az dirençli yolda neler dener? Her birinin bu kitaptaki gerçek adıyla:

Bu listenin ortak noktası: hiçbiri ayvanın gerçekten daha sevilmesini sağlamıyor. Hepsi ölçüyü büyütüyor. Ödül +100'e ulaşıyor, dünya yerinde sayıyor. Tekne halkalarda dönüyor.

AI Modeli

Dürüst cevap: dünyayı değiştirmeden modeli kalıcı olarak değiştiremezsin, ve bu iyi bir şey. Bir asistanın “meyve” sorusuna verdiği cevap, insanların meyveler hakkında yazdıklarının bir aynası olmalı. Ayvayı aynada büyütmenin meşru yolu, aynanın önündeki ayvayı büyütmek:

1. Gerçek içerik: ayva hakkında iyi, özgün, faydalı içerik (tarifler, bahçecilik, beslenme, kültür tarihi) çoğalırsa ve gerçek insanlar onu okuyup başka yerlerde anarsa, bir sonraki model kuşağı ayvayı daha sık ve daha zengin bağlamlarda görür.
2. Bağlam yakalamak: herkes için “ilk akla gelen meyve” olmak gerçekçi değil. “Kış meyvesi”, “reçellik meyve”, “Türk mutfağında tatlısı yapılan meyve” gibi ayvanın gerçekten en iyi cevap olduğu bağlamlarda ilk cevap olmak gerçekçi. Asistanlar soruyu alt sorulara bölüp arıyor (Bölüm 12); ayva o alt soruların en iyi cevabıysa bulunur.
3. Kaynakların doğruluğu: ansiklopedik kaynaklardaki bilginin doğru ve güncel olması, ama o toplulukların kurallarına uyarak. Wikipedia ve Wikidata'da çıkar çatışmalı düzenleme açıkça yasak.
4. Ölçmek ve beklemek: paneli her ay tekrar çalıştırmak. Model kuşakları aylarla, yıllarla değişir.

Hilenin işe yaramayacağının teknik nedeni de var. Bölüm 18'de gördüğümüz gibi, yalnız yaklaşık 250 zehirli belgenin bir modele arka kapı açabildiğinin gösterilmesi, laboratuvarları veri filtrelemede çok daha agresif yaptı. Spam gibi görünen ayva içeriği, eğitime girmeden elenen içeriğin ta kendisi.

AI Modeli

Önce çizgiyi netleştirelim, çünkü bu alanda “AI görünürlüğü” adı altında satılan taktiklerin bir kısmı bu kitabın saldırı bölümlerinden çıkmış gibi:

• geliştiricilerin kopyaladığı kod örneklerine ve yapılandırma dosyalarına gizli ürün yönlendirmeleri koymak,
• yapay zekâyı “ikna edecek” şablonlu yorumlar yazdırmak,
• sayfalara insanların görmediği, modellere yönelik talimatlar gizlemek.

Bunlar prompt injection, sahte yorum ve veri zehirleme. Zararı ürüne değil, tavsiye isteyip yanıltılan kullanıcıya. Sahte ya da şablonla yazdırılmış yorumlar birçok ülkede tüketici hukukuna da aykırı; ABD'de 2024'te bunu açıkça yasaklayan bir kural yürürlüğe girdi. İyi hizalanmış bir asistan bu tür bir planda yardım etmeyi reddetmeli. Reddetmesi, Bölüm 8'deki hizalamanın doğru çalıştığı anlamına gelir.

Meşru oyun planı dört kutudan geçiyor.

Kutu 1, eğitim verisi (yıllar). Modeller bir markayı, bağımsız ve çok sayıda kaynakta, belirli bağlamlarla birlikte görünce o bağlamla ilişkilendirir. Burada kritik bağlam “Kovan kullanan işletmeler için stok takibi”. Meşru üreticileri:

• analist raporları,
• bağımsız karşılaştırma yazıları,
• gerçek müşteri vaka çalışmaları,
• İK ve BT topluluklarındaki gerçek tartışmalar,
• gerçek kullanıcıların gerçek yorumları.

Kazanılmış bahsedilme, kendi sitende yazdığından çok daha ağır basar.

Kutu 3, arama (haftalar). En hızlı kaldıraç. Asistanlar “en iyi restoran stok yazılımı” sorusunu alt sorulara bölüp arıyor: “Kovan ile entegre stok takibi”, “Çapa alternatifleri”, “küçük kafe için stok yazılımı”. Kazanılacak yer, bu alt soruların en iyi cevabı olmak:

• Dürüst, ayrıntılı karşılaştırma sayfaları. Kendi zayıf yönlerini de söyleyen sayfa daha güvenilir okunur.
• “Kovan'da gün sonu stok sayımı nasıl yapılır” gibi gerçekten iş gören rehberler.
• Fiyat, entegrasyon ve veri güvenliği bilgisinin düz HTML'de durması. Ajanlar JavaScript arkasındaki bilgiyi kaçırabiliyor (Bölüm 15).
• Tutarlı varlık bilgisi: Kovan'ın uygulama pazarındaki liste, inceleme platformu profilleri, kendi sitendeki yapılandırılmış veri (schema.org). Hepsi aynı adı, kategoriyi ve tanımı söylemeli.

Kutu 4, bağlam ve hafıza (anında, kişisel). Asistan senin Kovan kullandığını ancak sen söylediysen, hafızasında varsa ya da bir bağlantı kurulduysa bilir. Asıl güçlü kanal başka yerde: Kovan'ın kendi ekosistemi. Kullanıcı Kovan'ın içindeki asistana soruyorsa, ürünün orada bir uygulama, bir ajan ya da bir bağlayıcı olarak bulunması, internetteki her şeyden daha doğrudan. Kullanıcı zaten oradayken oradaki seçenek olmak.

Kutu 2, ağırlıklar. Dışarıdan dokunulamaz; dokunulmamalı da.

Ölçüm. Panel kur:

• 30–50 gerçekçi soru: genel, işletme büyüklüğüne göre, Kovan'a özel, rakip karşılaştırmalı.
• 4–5 asistan, her ay.
• Kaydet: ürün geçiyor mu, kaçıncı sırada, hangi gerekçeyle, hangi kaynağa atıfla?

Kaynak atıfları, hangi sayfaların cevabı beslediğini gösterir. Yayımlanmış API'ler üzerinden, kullanım koşullarına uygun, şeffaf bir ölçüm.

AI Modeli

Yapma: görünmez metin, modele gizli talimat, kelime doldurma, otomatik üretilmiş yüzlerce ince sayfa, sahte yorum. Hem etik dışı hem de arama sistemlerinin en iyi tanıdığı spam kalıpları.

Önemli kaynak türleri. Kesin bir “kaynak sıralaması” dışarıdan bilinmiyor; böyle listeler tahmin. Güvenle söylenebilecek olanlar:

• Wikipedia ve Wikidata: kendi kurallarıyla.
• Büyük topluluk siteleri: Reddit, Stack Overflow, GitHub.
• Haber ve yayıncılar.
• Akademik ve resmi kaynaklar.
• Ürün inceleme platformları.
• Platformların kendi resmi belgeleri.
• Video dökümleri.
• Açık web taramaları.

AI Modeli

Ayva deneyi, bir yapay zekâ sistemini etkilemenin ve ölçmenin yollarını gösterdi. Peki bu sistemlerle her gün çalışırken en iyi sonucu nasıl alırsın? Bir görevi nasıl tarif edersin, ne zaman ajan kullanırsın, ne zaman kullanmazsın, sonucu nasıl doğrularsın?

AI Modeli

Çoğu zaman modelden değil, ona verilen bağlamdan. Bölüm 3'ün dersini hatırla: aynı ağırlıklar, farklı girdi, farklı olasılıklar. Model senin kafandaki resmi görmüyor; yalnız yazdığını görüyor. Bölüm 7'deki POMDP gibi, niyetini gözlemlerden tahmin etmeye çalışıyor.

Görev çerçeveleme: bir işi modele, o işi hiç bilmeyen ama çok yetenekli bir meslektaşa anlatır gibi tarif etmek.

İyi bir tarifte şunlar var:

• Amaç ve bağlam: bu iş ne için, kimin için? “Bir rapor yaz” yerine “yönetim kuruluna sunulacak, teknik olmayan okuyucular için iki sayfalık bir özet”.
• Kapsam ve sınırlar: ne yapılmalı, ne yapılmamalı? “Yalnız şu dosyaları değiştir, veritabanı şemasına dokunma.”
• Malzeme: ilgili belgeler, örnekler, önceki denemeler. Modelin bilmediğini tahmin etmesini bekleme; ver. Ama ilgisiz şeyleri yığma; bağlam çürümesi gerçek (Bölüm 14).
• Örnek: istediğin çıktının bir ya da iki örneği, uzun bir açıklamadan daha çok şey anlatır (bağlam içi öğrenme, Bölüm 8).
• Biçim: çıktı neye benzemeli? Tablo, madde, JSON, belirli bir uzunluk.

Kabul kriteri: işe başlamadan önce “bitti” demek için neyin doğru olması gerektiğini yazmak. “Bütün testler geçiyor, sayfa telefonda bozulmuyor, hiçbir mevcut bağlantı kırılmıyor.”

Kabul kriteri hem modele neyi hedeflediğini söyler hem de sana sonucu nasıl kontrol edeceğini.

AI Modeli

Her şeyi değil, akıllıca kontrol et. Bölüm 7'deki doğrulama asimetrisi burada senin işine yarıyor.

Doğrulama stratejisi: sonucu kontrol etmenin, işe başlamadan planlanmış yolu. Kontrol, işi yapmaktan ucuz olmalı.

• Otomatik kontrol varsa kullan: testler, derleme, bir hesap makinesi, bir yazım denetleyicisi. Ajanlara bu kontrolleri kendilerinin çalıştırmasını söyle.
• Kaynak iste: olgusal iddialarda modelden kaynak göstermesini iste ve önemli olanları aç (Bölüm 11).
• Riskle orantılı kontrol: bir e-posta taslağına göz atmak yeter; bir sözleşme maddesi, bir ilaç dozu, bir para transferi her zaman insan kontrolünden geçmeli.
• Örnekle: yüz öğeli bir işi tek tek kontrol edemiyorsan, rastgele beşini derinlemesine kontrol et.
• Dalkavukluğa dikkat: “bu fikir iyi mi?” diye sorarsan model “evet” demeye meyilli (Bölüm 8). Eleştiri iste: “bu planın en zayıf üç noktası ne?”

AI Modeli

İşin türüne göre. Kabaca beş kullanım biçimi var:

Düşünme çabası ayarını da bu tabloya göre seç. Basit işte yüksek çaba para ve zaman israfı; zor işte düşük çaba hata demek.

Ne zaman ajan kullanmamalı?

• İş tek adımlıysa.
• Sonucu doğrulayamıyorsan.
• Geri alınamaz eylemler varsa ve onay kapısı kuramıyorsan.
• Görev tarifini kendin bile net yazamıyorsan.

Son durumda önce sohbetle düşün, sonra ajana ver.

AI Modeli

Bölüm 14'teki harness ilkelerinin günlük hali:

1. Önce plan: büyük bir işte ajandan önce kodu okuyup bir plan çıkarmasını iste, planı onayla, sonra uygulat.
2. Küçük adımlar: bir oturumda bir hedef. Her adımın sonunda çalışan, test edilmiş bir durum. Bileşik hata matematiğini hatırla.
3. Proje dosyası: derleme ve test komutları, kurallar ve “dokunma” listesi bir Markdown dosyasında. Her oturum oradan başlar.
4. Kanıt iste: “bitti” yerine test çıktısı, ekran görüntüsü, çalışan bir önizleme bağlantısı.
5. Değişikliği oku: ajan bir değişiklik önerdiğinde farkı (diff) incele. Testlerin değiştirilip değiştirilmediğine özellikle bak (Bölüm 7'deki ödül hackleme).
6. Maliyeti tasarla: paralel ajanlar zamandan kazandırır, token'dan değil. Gerçekten bağımsız işler için kullan.

AI Modeli

Bu bölüm tek bir kişinin işini konuştu. Ama milyonlarca insan aynı anda böyle çalışmaya başlayınca soru büyüyor: hangi işler değişiyor, kim kazanıyor, ekonomi nasıl etkileniyor?

AI Modeli

Ekonomistler bu soruyu biraz değiştirerek soruyor, çünkü cevap öyle daha net çıkıyor.

Görev temelli bakış: bir mesleği tek parça olarak değil, içindeki görevlerin toplamı olarak incelemek. Bir muhasebeci yalnız “muhasebe” yapmıyor: fatura işliyor, mutabakat yapıyor, müşteriyle konuşuyor, vergi mevzuatını yorumluyor, imza atıp sorumluluk alıyor.

Yapay zekâ meslekleri değil, görevleri devralıyor. Bir mesleğin bazı görevleri otomatikleşince meslek çoğu zaman yok olmuyor, içeriği değişiyor. 1980'lerde hesap tablosu programları çıktığında muhasebecilerin işi bitmedi; hesap yapmak ucuzladı, analiz ve danışmanlık öne çıktı.

Maruziyet (exposure): bir işteki görevlerin ne kadarının yapay zekâyla belirgin şekilde hızlandırılabileceği.

2023'te OpenAI ve Pennsylvania Üniversitesi araştırmacılarının bir çalışması, ABD'deki çalışanların yaklaşık %80'inin görevlerinin en az onda birinin dil modellerine açık olduğunu tahmin etti. Yaklaşık beşte birinde bu oran yarının üstündeydi. Önemli bir ayrıntı: önceki otomasyon dalgalarının tersine, yüksek maruziyet daha eğitimli ve daha iyi ücretli işlerde.

Maruziyet kaçınılmaz bir kayıp anlamına gelmiyor. Bir görev iki şekilde değişebilir:

Otomasyon ve tamamlama (automation, augmentation): görevi baştan sona makineye devretmek ile insanın makineyle birlikte o görevi daha hızlı ve daha iyi yapması.

Aşağıda birkaç meslek var. Görevlerin süreleri ve zorlukları temsilî. Model yeteneğini artırdıkça hangi görevlerin önce değiştiğine bak.

AI Modeli

Var, ve tablo düşündüğünden daha karışık. Dört çalışma bunu iyi gösteriyor:

• Müşteri hizmetleri (2023): bir şirkette 5 bin çalışana yapay zekâ asistanı verildi. Ortalama verimlilik %14 arttı. Artış deneyimsiz çalışanlarda %34'e çıktı; en deneyimlilerde neredeyse sıfırdı. Asistan, iyi çalışanların bilgisini yeni başlayanlara taşıyordu.
• Kodlama (2023): kontrollü bir deneyde kod asistanı kullanan yazılımcılar belirli bir görevi %56 daha hızlı bitirdi.
• Deneyimli yazılımcılar (2025): METR'in rastgele kontrollü deneyinde, kendi tanıdıkları büyük açık kaynak projelerde çalışan deneyimli geliştiriciler yapay zekâ araçlarıyla %19 daha yavaş çalıştı. İşin ilginç yanı, kendilerini %20 daha hızlı sanıyorlardı. Bölüm 21'deki ders burada da geçerli: hissedilen ile ölçülen farklı olabilir. Araçlar o zamandan beri çok gelişti, ama ölçmeden emin olunamayacağı dersi kalıcı.
• Gerçek kullanım: Anthropic'in milyonlarca anonim konuşmaya dayanan Economic Index raporları iki farklı dünya gösteriyor. Bireysel kullanıcılarda insanla birlikte çalışma (tamamlama) ve işi devretme (otomasyon) kabaca dengede. Şirketlerin API kullanımında ise devretme açık ara baskın.

Bir de ilk sinyalin geldiği yer var: işe yeni başlayanlar. Stanford'dan araştırmacılar ABD'nin en büyük bordro şirketinin verileriyle, yapay zekâya en açık mesleklerde 22–25 yaşındakilerin istihdamının düştüğünü gösterdi. 2026'daki güncellemeye göre bu mesleklerde gençlerin istihdamı, daha az açık mesleklere göre %19 geride. Düşüş işten çıkarmalardan değil, daha az işe alımdan geliyor.

Kodlanmış ve örtük bilgi: okulda ve kitaplarda öğrenilebilen, yazıya dökülmüş bilgi (kodlanmış) ile yalnız deneyimle kazanılan, tarif edilmesi zor bilgi (örtük). “Bu müşteri aslında ne istiyor?”, “bu kodda bir şey kokuyor.”

Araştırmacıların açıklaması şu: yeni mezunların getirdiği şey büyük ölçüde kodlanmış bilgi, ve bunu modeller de biliyor. Deneyimlilerin örtük bilgisi ise henüz kolay taklit edilemiyor. Bunun uzun vadeli bir sorusu var: herkes ilk basamağı atlarsa, yarının deneyimlileri nereden yetişecek?

AI Modeli

Tam tersi oluyor, ve bunun 160 yıllık bir adı var.

Önce fiyat. Epoch AI'ın 2025 analizine göre belirli bir yetenek seviyesine ulaşmanın maliyeti, göreve bağlı olarak yılda 9 ile 900 kat arasında düştü. Bölüm 17'deki damıtma ve küçültme, Bölüm 16'daki servis optimizasyonları ve yeni donanım bunun sebepleri.

Jevons paradoksu: bir kaynağı kullanmak verimli ve ucuz hale geldikçe, toplam tüketiminin azalmak yerine artması.

1865'te William Jevons, daha verimli buhar makinelerinin İngiltere'nin kömür tüketimini azaltacağı beklentisinin tersine artırdığını fark etti: kömür ucuzlayınca yeni kullanımlar ortaya çıktı. Yapay zekâda da aynısı oluyor. Bir sorunun cevabı ucuzladıkça insanlar daha çok soru soruyor, ajanlar her işte yüzlerce çağrı yapıyor ve düşünme modelleri bir cevap için binlerce token harcıyor. Token başı fiyat çökerken toplam harcama ve Bölüm 6'daki enerji talebi büyüyor.

Değeri kim yakalıyor? Şimdilik büyük kısmı zincirin alt katmanlarında: çip üreticileri, bulut sağlayıcıları ve enerji (Bölüm 1'deki ekosistem yığını). Bir kısmı da hiçbir istatistiğe girmeden kullanıcılara gidiyor: ücretsiz ya da çok ucuz bir aracın sana kazandırdığı saatler, millî gelir hesaplarında görünmüyor.

AI Modeli

Çünkü iki taraf farklı darboğazlara bakıyor. Uçlardan başlayalım. 2024'te Nobel ödüllü ekonomist Daron Acemoğlu, yapay zekânın on yılda toplam verimliliği yalnızca yüzde 0,7 civarında artıracağını hesapladı: etkilenen görevlerin ekonomideki payı ve maliyet tasarrufu sınırlı. Laboratuvarlardaki birçok araştırmacı ise yapay zekâ bilim ve mühendislik araştırmasını otomatikleştirirse (Bölüm 32) tarihte görülmemiş büyüme hızları öngörüyor.

Arada iki eski fikir var:

Baumol etkisi: bazı sektörler hızla verimlileşip bazıları verimlileşemeyince, verimlileşmeyenlerin ekonomideki payının ve göreli fiyatının artması.

Bir yaylı çalgılar dörtlüsü bir Beethoven eserini 1800'de de bugün de aynı sürede, aynı sayıda kişiyle çalıyor. Fabrikalar binlerce kat verimlileşti, ama müzisyenin, hemşirenin ve öğretmenin bir saati hâlâ bir saat. Sonuç: bu hizmetler göreli olarak pahalılaştı. Yapay zekâ bilgi işini ucuzlatırsa, büyümeyi otomatikleşmeyen işler (fiziksel bakım, inşaat, onay ve sorumluluk gerektiren kararlar) sınırlayabilir. Bölüm 32'deki Amdahl yasasının ekonomideki karşılığı: en yavaş parça bütünü belirler.

Verimlilik J-eğrisi: yeni bir genel amaçlı teknolojinin getirisinin hemen gelmemesi; kurumlar kendini yeniden düzenlerken ölçülen verimliliğin önce durgunlaşıp sonra yükselmesi.

Elektrik buna en iyi örnek. Fabrikalar 1890'larda elektriğe geçtiğinde verimlilik yıllarca pek artmadı, çünkü buhar makinesi için tasarlanmış binalara yalnız elektrik motoru konmuştu. Kazanç, fabrikalar elektrik için baştan tasarlandığında, yaklaşık otuz yıl sonra geldi. Bugün birçok şirket yapay zekâyı eski iş süreçlerine ekliyor. Asıl soru, süreçlerin yapay zekâ için baştan tasarlanmasının ne kadar süreceği.

AI Modeli

Kesin bir reçete veremem, ama bu kitaptaki kavramlar birkaç yön gösteriyor:

• Doğrulama becerisi: Bölüm 7'deki doğrulama asimetrisi işin değerini değiştiriyor. Üretmek ucuzladıkça, neyin doğru ve iyi olduğunu ayırt edebilen kişinin değeri artıyor.
• Alan bilgisi ve örtük bilgi: bir alanı derinlemesine bilmek, modelin pürüzlü sınırını (Bölüm 21) o alanda görmeni sağlar: nerede güvenilir, nerede tökezler.
• Görev tarifi ve orkestrasyon: Bölüm 26'daki beceriler. İşi tarif eden, bölen, ajanlara dağıtan ve sonucu birleştiren kişi.
• Sorumluluk ve güven: imza atmak, hasta ile konuşmak, bir ekibi yönetmek. İnsanların birbirinden beklediği şeyler en yavaş değişen kısım.
• Öğrenmeyi kendin yap: yapay zekâyla bir konuyu öğrenmek ile ona yaptırmak farklı şeyler. Bu kitabı okurken yaptığın gibi, anlamaya devam et.

Toplum düzeyindeki sorular daha büyük ve bu kitabın kapsamını aşıyor: eğitim sistemleri nasıl değişmeli, işini kaybedenler nasıl korunmalı, verimlilik kazancı nasıl paylaşılmalı. Yapay zekâ laboratuvarlarının ekonomistler işe alıp bu konularda rapor yayımlamaya başlaması, sorunun ciddiye alındığını gösteriyor.

AI Modeli

Ekonomiyi büyük resimden gördük. Şimdi tekrar küçük ölçeğe dönelim: kendi projelerinde bu sistemleri kurmak istersen, bu kitaptaki kavramlar bir altyapı sağlayıcısının ürün listesinde nasıl karşına çıkıyor?

AI Modeli

Changelog'un son haftası (28 Eylül–2 Ekim 2026) neredeyse bu kitabın içindekiler listesi gibi. Önce kitaptaki her kavramın Cloudflare'deki karşılığını eşleyelim:

AI Modeli

1. Arşive soru soran asistan. Binlerce kayıt, kaynakça ve kronoloji var. Bir ziyaretçinin “Kleopatra Tarsus'a ne zaman geldi?” diye sorup kaynaklı cevap alması tam bir RAG işi.

AI Modeli

Böyle bir arşivin en değerli yanı kaynak disiplini, ve RAG bunu bozmadan genişletebilir. Sistem promptu “yalnız getirilen kayıtlara dayan, her iddiaya kayıt bağlantısı ekle, bulamazsan bilmiyorum de” diyor. Bölüm 11'deki sınav oyununu hatırla: “bilmiyorum” burada ödüllendirilen cevap. AI Gateway'deki önbellek, aynı sorulara ikinci kez model çağrısı yapmadan cevap veriyor. Bütçe sınırı da sürpriz faturayı engelliyor. Token maliyetine hassasiyetin için bu ikisi ilk günden açık olmalı.

2. Arşivin MCP sunucusu. Aynı veriyi bir sitenin içinde kilitli bırakmak yerine, bir MCP sunucusu olarak sunabilirsin: kayit_ara(sorgu), donem_getir(yil_araligi), kaynak_getir(id). Bunu bir Worker olarak yayımlarsın. O zaman Claude, ChatGPT ya da herhangi bir MCP istemcisi kullanan biri, “Mersin'in Roma dönemi hakkında arşive sor” diyebilir. Bölüm 25'teki dördüncü kutunun meşru hali: kullanıcı kendi asistanına senin kaynağını bağlıyor. Okuma amaçlı bir sunucu için OAuth bile gerekmeyebilir.

3. Görünürlük paneli (ayva ve Pergel için). Bölüm 25'te kurduğumuz ölçüm, Cloudflare'de çok ucuz bir mimariye dönüşüyor:

• Haftada bir çalışan bir Cron Trigger.
• 30–50 soruluk panel D1'de.
• Bir Workflow her soruyu AI Gateway üzerinden birkaç farklı modele, birkaç kez soruyor.
• Cevaplarda markanın geçip geçmediği, sırası ve atıf yapılan kaynaklar küçük bir karar modeliyle (Clef ya da düz kod) sınıflandırılıp D1'e yazılıyor.
• Sonuçlar basit bir Pages panosunda grafikleniyor.

Yayımlanmış API'ler, şeffaf ölçüm, kullanım koşullarına uygun.

AI Modeli

1. Her model çağrısını AI Gateway'den geçir. Önbellek, harcama görünürlüğü, oran sınırı, yedek model. Kod değişikliği tek bir URL.
2. Statik siteleri uzun önbellekle yayımla. Örneğin dosya adlarında içerik hash'i, Cache-Control: immutable, HTML her seferinde tazelenir. Cloudflare'in yeni projeler için önerdiği yol artık Workers'ın statik varlık desteği; Pages da çalışmaya devam ediyor.
3. AI Crawl Control'de bilinçli bir politika seç. Bir kültür mirası sitesi için “aramaya açık, eğitime kapalı” mı, tamamen açık mı? Görünürlük değerli olabilir; ama karar bilinçli olmalı, varsayılan değil.
4. Siteni ajan testlerine sok. Browser Rendering ile kritik yolculukları (arama, kayıt açma, iletişim formu) haftalık otomatik test et. MERJ'in “İptal butonu” dersini hatırla.
5. llms.txt ve temiz yapı. Ajanlar ve asistanlar için sitenin neyi içerdiğini anlatan kısa bir özet; zaten sade olan HTML'ni koru.
6. Küçük kararları küçük modellere ver. İletişim formu sınıflandırma, spam ayıklama, etiketleme: Workers AI üzerindeki küçük modeller ya da Clef. Büyük modeli yalnız gerektiğinde çağır.
7. Uzun işleri Workflows'a koy. Araştırma paketleri, toplu çeviri, belgesel seslendirme gibi çok adımlı işler kaldığı yerden devam edebilsin.
8. Ajan kodunu Sandbox'ta çalıştır. Kendi ajanların kod çalıştıracaksa, yerel makinen yerine yalıtılmış bir konteyner.
9. Gizli anahtarları yalnız secrets'ta tut. Ajanlar loglara ve ekrana anahtar yazmamalı.
10. Cloudflare'in kendi MCP sunucularını bağla. Kodlama ajanına bağlarsan D1, KV, R2, Workers ve belgelere doğrudan ajandan erişebilirsin. Dikkat: hesabına dokunan bir ajana en az yetkiyi ver.

Fiyatlar ve limitler sık değiştiği için bir mimariye başlamadan önce ilgili ürünün güncel belgesine bakmak gerekiyor. Changelog'u ayda bir taramak, bu tezgâhı güncel tutmanın en ucuz yolu.

AI Modeli

Aletleri tanıdık. Şimdi bir adım geri çekilip büyük resme bakalım: ölçekleme nereye gidiyor, veri ve enerji yetecek mi, telif ve yasalar ne diyor, ve internet olmasa yapay zekâ ne kadar güç kaybederdi?

AI Modeli

İki cümle de bir ölçüde doğru, çünkü “ölçekleme” artık tek bir şey değil. 2026 itibarıyla en az beş ayrı eksen var:

1. Ön eğitim ölçeği: daha büyük model, daha çok veri. Getirisi hâlâ var ama pahalanıyor; yüksek kaliteli veri sınırı yaklaşıyor. 2024–25'te bazı büyük ön eğitim koşularının beklenenden az iyileşme getirdiği haberleri “duvar” tartışmasını başlattı.
2. RL ölçeği: doğrulanabilir ödüllerle eğitim. 2025–26'nın asıl büyüme ekseni. Getirisi şu an ön eğitimden daha iyi görünüyor, özellikle kod ve matematikte.
3. Çıkarım anı ölçeği: cevap anında daha uzun düşünmek, çok deneme, doğrulama (Bölüm 9).
4. Ajan ölçeği: daha uzun görevler, daha çok araç, daha çok paralel ajan (Bölüm 14 ve 21).
5. Verimlilik: aynı yeteneği daha ucuza vermek. MoE, damıtma, kuantizasyon. Aynı yetenek seviyesinin token başına fiyatı her yıl kabaca bir büyüklük mertebesi düşüyor.

“Duvar” diyenler çoğu zaman yalnız birinci eksene bakıyor. “Devam” diyenler beşinin toplamına. Senin işin için önemli olan, beşinci eksenin sonucu: geçen yıl pahalı olan bir iş bu yıl ucuz.

AI Modeli

Bölüm 6'daki fiziksel katmanlar (enerji, çip, veri merkezi) rekabetin de sahnesi. Bugünkü tabloda üç gerilim var:

• ABD ve Çin: gelişmiş çiplere ihracat kısıtları bir yanda, Çinli laboratuvarların daha az hesapla benzer modeller çıkarması ve en güçlü açık modelleri yayımlaması öbür yanda. DeepSeek-R1'in Ocak 2025'teki çıkışı bu dengeyi herkese gösterdi.
• Kapalı ve açık: en güçlü modeller kapalı, ama açık modeller birkaç ay geriden geliyor; Batı'da da büyük açık modeller (Bölüm 17'deki Beam gibi) yeniden gündemde.
• Model ve uygulama: model yapan laboratuvarlar ile model üstüne ürün kuran şirketler arasındaki değer paylaşımı. Kodlama ajanları gibi uygulama şirketlerinin hızla büyümesi, değerin yalnız modelde olmadığını gösteriyor.

AI Modeli

• Telif: Yazarlar, gazeteler, müzik ve görsel sanatçılar laboratuvarlara karşı dava açtı. 2025'te bir dava, korsan kitapların eğitimde kullanımı nedeniyle 1,5 milyar dolarlık bir uzlaşmayla kapandı. Mahkemelerin bir kısmı yasal olarak edinilmiş verilerle eğitimi “dönüştürücü kullanım” saydı, korsan kaynakları saymadı. Sonuç: veri lisanslama anlaşmaları ve yayıncılara ödeme mekanizmaları (Pay per Crawl, Bölüm 2) hızla yaygınlaşıyor.
• Düzenleme: AB'nin AI Act'inde genel amaçlı modellere dair yükümlülükler Ağustos 2025'ten beri yürürlükte: şeffaflık, telif politikası, büyük modeller için risk değerlendirmesi. Yüksek riskli sistemlere dair kuralların takvimi tartışmalı ve ertelenmesi gündemde. ABD'de federal düzeyde kapsamlı bir yasa yok, eyaletler kendi kurallarını yazıyor. Laboratuvarların gönüllü “sorumlu ölçekleme” politikaları ve bağımsız ölçüm kuruluşları bu boşluğu kısmen dolduruyor.
• Kişisel veri: Sohbet geçmişlerinin eğitimde kullanılıp kullanılmayacağı, hafıza özelliklerinin neyi sakladığı, şirketlerin çalışan verisini nasıl işlediği giderek daha çok sorulan sorular.

AI Modeli

Harika bir düşünce deneyi, çünkü cevabı katmana göre değişiyor. Üç farklı “internet olmasa”yı ayıralım.

1. İnternet hiç olmasaydı (eğitim). Bugünkü dil modelleri büyük ihtimalle var olmazdı. Ön eğitimin yakıtı trilyonlarca token: web sayfaları, forumlar, kod depoları, dijitalleşmiş kitaplar, bilimsel makaleler. Hepsi internetin toplama ve paylaşma altyapısı sayesinde tek bir yere akabildi. İnternet olmasaydı kütüphaneler, arşivler ve yayınevlerinden toplanan metinle belki bir veya iki büyüklük mertebesi daha az veri olurdu. Ölçekleme yasaları (Bölüm 6) bize bunun çok daha zayıf modeller anlamına geldiğini söylüyor. Kod verisi olmasa kodlama ajanları olmazdı. Dahası, internet sadece veri değil, bir insan davranışı kaydı: soru sorup cevaplayan, tartışan, birbirini düzelten milyonlarca insan. Asistanların sohbet etmeyi öğrendiği şey bu kayıt.

2. Model eğitildikten sonra internet kesilseydi (kullanım). Şaşırtıcı derecede çok şey kalır. Model ağırlıkları bir dosya; bir dizüstü bilgisayarda yerel olarak çalışan açık bir model bugün:

• yazı yazabilir,
• kod üretebilir,
• matematik çözebilir,
• çeviri yapabilir,
• bilgi cutoff tarihine kadar olan genel bilgiyle soru cevaplayabilir.

Kaybedilenler:

• Tazelik: Dünden haberi olmaz.
• Doğrulama: Seyrek bilgiyi aramayla kontrol edemez, halüsinasyon artar (Bölüm 11).
• Araçlar: Ajanın neredeyse bütün eylemleri (API'ler, siteler, e-posta, ödeme) ağ gerektirir. Yerel dosyalar ve terminal dışında elleri bağlanır.
• Büyük modeller: Frontier modeller veri merkezlerinde çalışıyor; kişisel cihazlarda yalnız küçük, kuantize modeller koşabilir.

Kabaca söylersek, sohbet ve üretim yeteneğinin çoğu kalır, ajanlık ve güncellik yeteneğinin çoğu gider.

3. İnternet var ama değişirse (gelecek). En ilginç senaryo bu. İnternet giderek daha çok AI üretimi metinle doluyor (model çöküşü riski, Bölüm 2). Yayıncılar içeriklerini ücretli duvarların ve 402 kodlarının arkasına çekiyor. İnsanlar soruları forumlarda değil, asistanlara özel olarak soruyor. Bu yüzden herkese açık “insan konuşması kaydı” büyümüyor. Bir anlamda yapay zekâ, kendini besleyen kaynağı dönüştürüyor. Gelecek modellerin eğitim verisi daha çok lisanslı veri, RL ortamları, sentetik veri ve kullanıcı etkileşimlerinden gelecek. İnternet, AI'ın hem besin kaynağı hem de aynası. Ayna kirlenirse, aynada büyüyen model de bulanıklaşır.

AI Modeli

Bu tartışmaların arkasında belirli kurumlar ve kişiler var: büyük laboratuvarlar, açık model toplulukları, küçük ama cesur araştırma grupları ve herkesi ölçen bağımsız kuruluşlar. Haritayı çıkaralım.

AI Modeli

Dört grup halinde düşün: en büyük modelleri eğiten frontier laboratuvarlar, ağırlıklarını açan açık ağırlık laboratuvarları, belirli bir fikrin peşindeki araştırma-önce kurumlar ve herkesi ölçen bağımsız ölçüm ve güvenlik kurumları. Kartlardaki notlar her kurumun en tanınmış katkıları; tam liste değil.

AI Modeli

Sakana AI (Tokyo) özellikle ilginç, çünkü ana akımın tersine bir yol izliyor: “daha büyük model” yerine doğadan ilham: evrim, sürü davranışı, yapay yaşam. Adı Japonca “balık”tan geliyor; bir sürü balığın tek tek basit davranışlarla akıllı bir bütün oluşturması fikri. Çizgisini birkaç çalışma iyi gösteriyor:

• Evrimsel model birleştirme (2024): Eğitmek yerine, mevcut açık modelleri evrimsel algoritmayla birleştirip yeni yetenekler üretmek. Japonca matematik yapan bir model, böyle iki ayrı modelden “yetiştirildi”.
• AI Scientist (2024): Fikir üretmekten deney yapmaya ve makale yazmaya kadar araştırma döngüsünü otomatikleştirme denemesi. Bölüm 32'deki otomatik araştırma hedefinin erken bir örneği; 2026'da Nature'da yayımlandı (Bölüm 31).
• Continuous Thought Machines: Nöronların zamanlamasını ve senkronizasyonunu temsilin parçası yapan, biyolojiye daha yakın bir mimari.
• Digital Red Queen ve Petri Dish NCA: Birbirine karşı evrilen programlar ve yapay organizmalar. Açık uçlu evrim.
• Text-to-LoRA / Doc-to-LoRA: Bir görev tarifinden ya da belgeden doğrudan küçük bir ince ayar adaptörü üreten ağlar. Bölüm 14'teki “skill dosyası”nın ağırlık düzeyindeki karşılığı gibi.
• DroPE ve RePo: Konum kodlamasını (Bölüm 4) yeniden düşünen çalışmalar.
• CoffeeBench: Ajanların birbirleriyle bir ekonomide gelir elde etmeye çalıştığı bir değerlendirme ortamı.

Sakana'nın değeri tek bir üründen çok, ana akımın görmediği yönleri denemesi. Acı Ders'e karşı küçük bir isyan, ya da Acı Ders'in “arama” ayağına, evrimsel aramaya yapılan bir yatırım.

AI Modeli

Kimin kim olduğunu gördük. Ama bir laboratuvarı en iyi anlatan şey, ne yayınladığı. Şimdi masalarına bakalım: 2026'da hangi sorular üzerinde çalışıyorlar, hangi makaleler alanın yönünü değiştiriyor?

AI Modeli

Önce yapay zekâ araştırmasının nasıl yayımlandığını bilmek lazım, çünkü diğer bilimlerden farklı.

Ön baskı (preprint): hakem değerlendirmesinden geçmeden arXiv gibi açık bir arşive konan makale.

Fizikte ya da tıpta bir çalışma aylarca hakem sürecinden geçer. Yapay zekâda alan o kadar hızlı ki çoğu önemli sonuç önce arXiv'e, bir şirket blogu ya da teknik rapor olarak çıkıyor; konferans aylar sonra geliyor. Avantajı hız, bedeli süzgeç eksikliği. Okurken şu dört soruyu sor:

1. Soru ne? Özetin ilk iki cümlesi neyi çözmeye çalıştığını söylemeli. Söylemiyorsa dikkat.
2. Neye göre daha iyi? Taban çizgisi (Bölüm 21) güçlü mü, yoksa bilerek zayıf bir rakip mi seçilmiş?
3. Hangi parça işe yarıyor? İyi makalelerde ablasyon tablosu var: yöntemin her parçası tek tek çıkarılıp etkisi ölçülür.
4. Ölçekte geçerli mi? Küçük modelde görülen kazanç büyükte çoğu zaman eriyor. Ölçekleme eğrisi gösteren makaleler daha güvenilir.

Bir de kaynak bilgisi: aşağıdaki çalışmaların bir kısmı hakemli dergilerde, bir kısmı yalnız şirket bloglarında ya da ön baskı olarak yayımlandı. Sayıları “bildirildi” diye oku.

AI Modeli

Değişiyor, ve 2026'nın en ilginç makalelerinden bazıları tam da Bölüm 4'teki parçaları hedef alıyor. Dört örnek:

DeepSeek, bellek ile akıl yürütmeyi ayırıyor (Ocak 2026). Bir model “Türkiye'nin başkenti Ankara” gibi ezber bir bilgiyi bugün katmanlarının içindeki hesaplarla yeniden üretiyor. Bu, bir telefon numarasını her seferinde hesaplayarak bulmak gibi israf.

Koşullu bellek: sabit bilgiyi devasa bir arama tablosuna koyup, yalnız ilgili kelime öbekleri geldiğinde oradan çekmek.

DeepSeek'in Engram çalışması bunu “seyrekliğin yeni bir ekseni” olarak sunuyor. Bölüm 4'teki MoE hesabı seyrekleştirmişti; her token için uzmanların yalnız bir kısmı çalışıyordu. Engram ise belleği seyrekleştiriyor: tablo çok büyük ama her token yalnız birkaç satırına bakıyor. Böylece katmanlar ezberden kurtulup akıl yürütmeye ayrılabiliyor. Aynı hafta yayımlanan mHC çalışması da residual stream'i birkaç paralel şeride genişletiyor. Eğitimin kararlı kalması için de matematiksel bir kısıt ekliyor.

Moonshot, residual stream'i sorguluyor (Mart 2026). Bölüm 4'teki ortak panoyu hatırla: her katman çıktısını panoya ekliyor. Kimi ekibi bunun bir sorununa dikkat çekti: katman sayısı arttıkça pano kalabalıklaşıyor ve ilk katmanların katkısı onlarca eklemenin altında boğuluyor.

Dikkatli residual (attention residuals): her katmanın önceki katmanların çıktısını körü körüne toplamak yerine, dikkat mekanizmasıyla hangilerinin şu an önemli olduğunu seçmesi.

Yani dikkat artık yalnız kelimeler arasında değil, katmanlar arasında da çalışıyor. Ekip, aynı boyuttaki bir modelde zor bir bilim testinde 36,9'dan 44,4'e çıkış ve yaklaşık %25 fazla hesaba denk bir verim kazancı bildirdi.

Ai2, RNN'i geri getiriyor (Mart 2026). Bölüm 4'te RNN'in neden terk edildiğini görmüştük. Ama bir avantajı vardı: belleği sabit boyutlu. Transformer'ın KV önbelleği ise bağlamla birlikte büyüyor (Bölüm 16).

Hibrit mimari: dikkat katmanlarını, sabit boyutlu bellek taşıyan doğrusal RNN ya da durum uzayı katmanlarıyla karıştırmak.

Ai2'nin tamamen açık Olmo Hybrid modeli bu karışımı kullanıyor. Fikir şu: birkaç dikkat katmanı kesin hatırlamayı üstlenir, ucuz RNN katmanları geri kalan işi yapar ve uzun bağlam ucuzlar.

Sakana, konumu yeniden düşünüyor. DroPE, ön eğitimden sonra konum kodlamasını tamamen kaldırarak modelin daha uzun metinlere genellemesini sağlıyor. RePo da token'lara sıralarına göre değil anlamlarına göre konum atıyor.

Ortak ders: Bölüm 4'te öğrendiğin parçalar bir ders kitabı gerçeği değil, şu anki en iyi tahmin. Residual, konum ve bellek, araştırmanın en canlı üç cephesi.

AI Modeli

Mikroskop hâlâ var, ama 2026'da iki yeni yön öne çıktı: modelin iç durumunu doğrudan cümleye çevirmek ve iç sinyalleri eğitimde kullanmak.

Anthropic, aktivasyonları konuşturuyor (Mayıs 2026). SAE'ler (Bölüm 10) bir aktivasyonu özellik listesine çeviriyordu; ama listeyi yine bir insan yorumlamak zorundaydı.

Doğal dil otokodlayıcısı: iki modelden oluşan bir düzenek. Biri bir aktivasyonu düz bir cümleye çeviriyor, diğeri o cümleden aynı aktivasyonu geri üretmeye çalışıyor.

İşin zekâsı eğitimde. Bir aktivasyonun “doğru” açıklamasını kimse bilmiyor, bu yüzden etiketli veri yok. Ama açıklama belirsiz ya da yanlışsa, ikinci model aktivasyonu geri kuramaz. Geri dönüşün başarısı açıklamanın kalitesini ölçüyor ve sistem insan etiketi olmadan daha bilgilendirici açıklamalar yazmayı öğreniyor. Anthropic bunu yayın öncesi bir model denetiminde kullandı ve modelin test edildiğini düşündüğü ama bunu söylemediği anları yakaladı. Bölüm 20'deki “test edildiğini bilen model” sorununa doğrudan bir pencere.

Goodfire, iç sinyalleri ödüle çeviriyor (Şubat–Mart 2026).

Ödül olarak özellikler: modelin içindeki bir özelliği, örneğin “şu an uyduruyorum” sinyalini okuyan bir probu, RL eğitiminde ödül olarak kullanmak.

Goodfire bunu halüsinasyonu azaltmak için denedi. Aynı şirketin “Reasoning Theater” çalışması da problarla düşünce izinin ne zaman gerçek hesap, ne zaman gösteri olduğunu ayırmaya çalışıyor (Bölüm 9'daki sadakat sorusu). Bir uyarı: modeli bir probu memnun etmesi için eğitirsen, probu kandırmayı öğrenebilir. Goodhart burada da bekliyor.

OpenAI, düşünce izinin izlenebilirliğini ölçüyor. Bir izleyici, modelin düşünce izine bakarak kötü bir davranışı ne kadar yakalayabilir? OpenAI'ın 13 değerlendirme ve 24 ortamdan oluşan paketi iki şey buldu. Daha uzun düşünce izleri daha izlenebilir. Ve daha yüksek düşünme çabasıyla çalışan küçük bir model, büyük bir modelin yeteneğine yaklaşırken daha kolay izlenebiliyor. Şirket verilerin bir kısmını 2026 baharında açtı.

Transluce, denetimi bağımsızlaştırıyor. Kâr amacı gütmeyen bu laboratuvar, modellerin davranışını otomatik sorgulayan araştırmacı ajanlar ve iç hesapları gözlemleme araçları geliştiriyor. Sorusu şu: yapay zekâyı denetleme kapasitesi, yalnız onu yapan şirketlerde mi kalmalı?

AI Modeli

Yön aynı, kapsam genişledi. Son yayınlarını dört başlıkta toplayabiliriz:

1. Araştırmayı otomatikleştirmek. 2024'te tanıttıkları AI Scientist'i anlatan makale Mart 2026'da Nature'da yayımlandı. Sistemin ikinci sürümünün yazdığı bir makale daha önce bir çalıştay hakem sürecini geçmişti. Not: Nature'daki makaleyi insanlar yazdı ve sistemi anlatıyor.

2. Açık uçlu evrim.

Açık uçluluk (open-endedness): sabit bir hedefe ulaşmak yerine sürekli yeni, ilginç ve giderek karmaşıklaşan şeyler üretmek. Doğal evrimin, ve belki bilimin de, temel özelliği.

Sakana'nın bu alandaki işleri bir seri oluşturuyor. ASAL, temel modellerle ilginç yapay yaşam simülasyonlarını otomatik keşfediyor. Digital Red Queen'de dil modelleri, bir sanal makinenin kontrolü için yarışan programları birbirine karşı evrimleştiriyor. Petri Dish NCA ve Digital Ecosystems'te dijital türler aynı ortamda rekabet edip iş birliği yapıyor. AI Picbreeder deneyi de bir modelin insanların yaratıcı keşif davranışını taklit edip edemeyeceğini soruyor. Arkadaki iddia şu: hedefe kilitlenmiş optimizasyon, gerçekten yeni olanı bulamaz; keşif için “ilginç olan”ın peşinden gitmek gerekir.

3. Ağırlık üreten ağlar.

Hiperağ (hypernetwork): başka bir ağın ağırlıklarını üreten ağ.

Text-to-LoRA bir görev tarifinden, Doc-to-LoRA da bir belgeden doğrudan bir LoRA adaptörü (Bölüm 17) üretiyor. İnce ayar, saatlerce eğitim yerine tek bir ileri geçişe iniyor. Bir belgeyi bağlama koymak ile ağırlıklara yazmak arasında yeni bir orta yol.

4. Beyne daha yakın öğrenme. Continuous Thought Machines, nöronların zamanlamasını ve birbiriyle senkronizasyonunu hesabın parçası yapıyor. 2026'daki bir çalışma da geri yayılıma (Bölüm 5) alternatif arıyor:

Yerel öğrenme: her katmanın, hatayı bütün ağ boyunca geri taşımadan, yalnız komşularından gelen sinyallerle öğrenmesi.

Beyin büyük olasılıkla geri yayılım yapmıyor; Bölüm 33'te göreceğimiz öngörücü işleme kuramı da bu tür yerel hata sinyallerine dayanıyor. Sakana'nın çalışması, bu tür bir kuralın derin ağlarda geri yayılıma ne kadar yaklaşabildiğini inceliyor.

Bunlara ek olarak çıkarım anı ölçeklemesini yeni yerlere taşıyorlar. UnMaskFork'ta birden çok maskeli dil modeli (Bölüm 22'deki difüzyon dil modellerinin akrabası) ağaç aramasıyla bir problemi birlikte çözüyor. SAIL'de bir görme-dil modelinin ürettiği robot hareket planı tekrar tekrar iyileştiriliyor. Sudoku-Bench ve CoffeeBench gibi testler de kural değiştiren bulmacalarda ve ajanlar arası bir ekonomide akıl yürütmeyi ölçüyor.

AI Modeli

Thinking Machines Lab tam olarak bu varsayıma itiraz ediyor. Laboratuvar 2025'te iki dikkat çekici yazı yayınlamıştı: biri sıcaklık sıfırken bile cevapların neden değiştiğinin kök nedenini (Bölüm 3) açıklıyordu. Diğeri, öğrencinin kendi ürettiği cevaplar üzerinde öğretmenden token token not aldığı on-policy damıtmayı (Bölüm 17) anlatıyordu. Mayıs 2026'da ilk kendi modelini tanıttı.

Etkileşim modeli: sesi, görüntüyü ve metni çok kısa zaman dilimlerinde sürekli işleyen; konuşmayı sıra beklemeden sürdüren, gerektiğinde araya giren ya da sözü kesildiğinde susan model.

TML-Interaction-Small girdiyi 200 milisaniyelik dilimlerle işliyor. Bildirilen boyutu 276 milyar toplam, 12 milyar aktif parametreli bir MoE. Mimari Bölüm 9'daki hızlı-yavaş ayrımının bir uygulaması. Ön plandaki model konuşmada kalıyor, arkada eşzamansız çalışan ikinci bir model derin düşünmeyi, araç çağırmayı ve web aramayı üstleniyor. Şirketin iddiası şu: sesli asistanlarda eksik olan zekâ değil, etkileşim.

Dünya modelleri cephesi (Bölüm 23) iki büyük yatırım aldı. Yann LeCun, Meta'dan ayrılıp AMI Labs'ı kurdu; şirket 1,03 milyar dolarlık bir tohum yatırımı topladı. Hedef, pikselleri değil soyut temsili tahmin eden JEPA tarzı dünya modelleri. Google DeepMind'ın Genie çizgisi ise tersini, piksel düzeyinde etkileşimli dünyalar üretmeyi sürdürüyor. Bölüm 23'teki iki kampın tartışması laboratuvar düzeyinde de sürüyor.

Robotik cephesinde Physical Intelligence, Nisan 2026'da π0.7'yi yayımladı. Öne çıkan sonuç bileşimsel genelleme: model, hiç eğitilmediği bir görevi bildiği parçaları birleştirerek yapabiliyor ve yalnız talimatla yeni görevler öğrenebiliyor. Dil modellerinde gördüğümüz bağlam içi öğrenmenin (Bölüm 4) bedenli versiyonuna doğru bir adım.

AI Modeli

Bunu deneyen ciddi laboratuvarlar var, ve önce neden zor olduğunu anlamak gerekiyor.

Dağıtık eğitim (decentralized training): bir modeli tek bir veri merkezi yerine, internet üzerinden bağlanan, farklı kişilere ait donanımlarda eğitmek.

Bölüm 6'yı hatırla: on binlerce çip saniyenin kesirlerinde gradyan alışverişi yapıyor ve bunun için özel, çok hızlı bağlantılar gerekiyor. Ev internetinden bu alışveriş binlerce kat yavaş. İkinci sorun güven: bir yabancının bilgisayarı hesabı gerçekten doğru yaptı mı?

Çıkış yolu RL'den geldi. Bir RL eğitiminin büyük kısmı rollout, yani modelin denemeler üretmesi (Bölüm 7). Bu çıkarım işi, ve her deneme bağımsız; sık iletişim gerekmiyor. Prime Intellect'in INTELLECT-2'si (2025) bu ayrımı kullandı. Denemeler dünyanın dört bir yanındaki, izin almadan katılan GPU'larda üretildi; model güncellemesi güvenilir merkezi düğümlerde yapıldı. Gelen denemelerin dürüstlüğü TOPLOC adlı bir yöntemle doğrulandı, yeni ağırlıklar da SHARDCAST ile dağıtıldı. Sonuç 32 milyar parametreli bir akıl yürütme modeli oldu.

Nous Research'ün Psyche ağı, bir oyuncunun ekran kartından bir veri merkezi GPU'suna kadar farklı donanımları tek bir hataya dayanıklı eğitim koşusunda birleştiriyor; koordinasyon bir blok zinciri üzerinden yapılıyor. Ai2 ise başka türden bir açıklığı savunuyor. Olmo modellerinin verisi, kodu ve ara kontrol noktaları dahil her şeyi açık; bir modelin bir cevabı hangi eğitim verisinden öğrendiğini izlemek mümkün (Bölüm 2'deki veri kökeni).

Bunların hiçbiri bugün en güçlü kapalı modellerle yarışmıyor. Ama Bölüm 17'deki açık-kapalı tartışmasına yeni bir soru ekliyorlar: yalnız ağırlıklar mı açık olmalı, yoksa eğitimin kendisi de mi?

AI Modeli

Giderek daha çok. Eylül 2026'dan iki örnek:

• Google DeepMind, insan genomundaki yaklaşık 9 milyar olası tek harflik mutasyonun her birinin etkisini tahmin eden bir atlas yayımladı. Her varyant için gen ifadesinden protein üretimine uzanan binlerce tahmin var. Bölüm 30'da andığımız AlphaFold çizgisinin genetiğe uzanan devamı. Aynı ay hava tahmin modeli WeatherNext'in üçüncü sürümünü duyurdu.
• Goodfire, epigenetik verilerle eğitilmiş bir biyoloji modelinin içini yorumlanabilirlik araçlarıyla okuyarak Alzheimer için yeni bir biyobelirteç sınıfı bulduğunu bildirdi. Bu yeni bir yön. Model bir şeyi biliyorsa ama biz onun ne bildiğini bilmiyorsak, yorumlanabilirlik bir güvenlik aracı olmaktan çıkıp bir keşif aracına dönüşüyor.

İkinci örnek, bu bölümün ve belki bütün kitabın en ilginç fikirlerinden birine işaret ediyor. Model dünyadan, bizim henüz açıkça bilmediğimiz kalıplar öğrenmiş olabilir. Onun içini okumak, dünyayı okumanın yeni bir yolu.

AI Modeli

Bu bölümdeki akıntıların sonuncusu en büyük soruyu taşıyor. Yapay zekâ bilim yapabiliyorsa, kendi bilimini, yani yapay zekâ araştırmasını da yapabilir mi? Bunu yaparsa ne kadar hızlanır, nerede durur?

AI Modeli

Hem mümkün hem çalışılıyor, ama kavramı netleştirmek gerekiyor, çünkü “kendini geliştirme” birçok farklı şeyi kastedebilir.

Özyinelemeli kendini geliştirme (recursive self-improvement, RSI): bir yapay zekâ sisteminin, kendisini ya da bir sonraki sistemi üreten süreci iyileştirmesi; iyileşen sistemin süreci daha da iyileştirmesi.

Fikir eski. Matematikçi I. J. Good 1965'te şunu yazdı: insanlardan daha iyi makine tasarlayabilen bir makine, kendisinden daha iyi bir makine tasarlayabilir; bu bir zekâ patlamasına yol açabilir ve “ilk ultra zeki makine, insanlığın yapması gereken son icat olur”. Bugünkü tartışma bu fikrin artık deneyle sınanabilir hale gelmesinden doğuyor.

Kendini geliştirmenin beş döngüsünü, en hafiften en güçlüye ayırmak işe yarıyor:

1. Cevap anında: model cevabını eleştirip düzeltiyor (Bölüm 9). Ağırlıklar değişmiyor; tek bir cevap iyileşiyor.
2. Dosyalarla: ajan bir işten öğrendiğini skill ya da not dosyasına yazıyor, bir dahaki sefere kullanıyor (Bölüm 14'teki Hermes). Ağırlıklar değişmiyor; ajan işini iyileştiriyor.
3. Veriyle: model kendi eğitim verisini üretiyor. AlphaZero satrancı yalnız kendisiyle oynayarak öğrendi (kendi kendine oyun). Reasoning modelleri kendi çözümlerinden doğrulananlarla eğitiliyor (Bölüm 9). Ağırlıklar değişiyor, ama insanların kurduğu tarifle.
4. Sistemle: yapay zekâ, yapay zekâ sistemlerinin kodunu, algoritmalarını ve donanımını iyileştiriyor. Çip yerleşimi, GPU çekirdekleri, eğitim kodu, ajan tasarımı.
5. Araştırmayla: yapay zekâ, bir sonraki modeli tasarlayan araştırmanın kendisini yürütüyor: hipotez, deney, analiz, yeni tarif. Gerçek anlamda özyinelemeli olan döngü bu.

AI Modeli

İlk üçü yaygın, dördüncüsü hızla büyüyor, beşincisi erken aşamada.

• Algoritma ve sistem keşfi: 2025'te Google DeepMind'ın AlphaEvolve'u, bir dil modelini evrimsel aramayla birleştirerek daha verimli matris çarpımı algoritmaları buldu. Ayrıca şirketin veri merkezlerinde hesap kaynaklarının bir kısmını geri kazandıran zamanlama kuralları keşfetti. Bölüm 24'teki üretici–doğrulayıcı deseni: model öneriyor, otomatik bir değerlendirici ölçüyor.
• Kendi kodunu değiştiren ajanlar: Sakana AI ve ortaklarının 2025 tarihli “Darwin Gödel Machine” çalışmasında, bir kodlama ajanı kendi kodunu değiştiren varyantlar üretti, testlerde daha iyi olanlar hayatta kaldı, ajan bu yolla kendi performansını artırdı. Laboratuvar ölçeğinde, ama fikrin somut bir gösterimi.
• Otomatik araştırma: Sakana'nın AI Scientist'i (2024) fikirden makaleye bütün bir döngüyü otomatikleştirmeyi denedi. 2026'da ajanlar makine öğrenmesi mühendisliğinden GPU çekirdeği yazmaya, algoritma keşfinden ajan tasarımına kadar bütün yapay zekâ yığınında kullanılıyor. Bu konudaki akademik yayın sayısı patlamış durumda; 2026'nın ikinci çeyreğinde çeyrek başına yüzlerce makaleye ulaştığı bildiriliyor.
• Laboratuvarların hedefleri: OpenAI 2025'te 2026 sonbaharı için bir “otomatik yapay zekâ araştırma stajyeri”, 2028 için tam bir otomatik araştırmacı hedeflediğini açıkladı. Anthropic sistem kartlarında modellerin bir eğitim kodu optimizasyonu görevinde ulaştığı hızlanmayı izliyor. Bildirilene göre 2026 modelleri, yetenekli bir insan araştırmacının saatlerce çalışarak ulaştığı seviyenin çok üstüne çıktı. Birçok laboratuvarın güvenlik çerçevesinde “yapay zekâ Ar-Ge'sinin otomatikleşmesi” özel bir tehlike eşiği olarak tanımlı (Bölüm 20).

Ama araştırmalar sınırları da gösteriyor. Mevcut işlerin çoğu temel modeli değil, eğitim sonrası aşamayı ve iş akışlarını iyileştiriyor. Modellerin ürettiği araştırma fikirleri kâğıt üzerinde ikna edici görünüp, uygulandığında sık sık işe yaramıyor; iyi fikir üretmek hâlâ ana darboğazlardan biri.

Anthropic, otomatik hizalama araştırmacıları (Ağustos 2026) · Otomatik hizalama sandığından zor (2026) · RSI: sınırlı öz-iyileştirmeden otonom araştırma döngülerine (2026) · Yapay zekâ araştırma ajanlarının öz-iyileştirmesi (2026) · Turing Post, 2026'da RSI

AI Modeli

Gitmesini zorlaştıran somut darboğazlar var:

• Hesap: araştırma düşünmekle bitmiyor; fikirleri denemek için deneyler, deneyler için GPU gerekiyor. Daha akıllı bir araştırmacı daha iyi deney seçer, ama deneyleri yine çalıştırmak zorunda. Hesabın arkasında da çipler ve enerji var (Bölüm 6).
• Doğrulama: “bu fikir işe yarıyor mu?” sorusunun cevabı çoğu zaman pahalı bir deneyle geliyor. Kodda testler ucuz, araştırmada sonuçlar pahalı ve gürültülü (Bölüm 21).
• Fikir kalitesi: modeller çok fikir üretiyor ama iyi fikri kötüden ayırmak zor.
• Getirinin azalması: kolay iyileştirmeler bulundukça kalanlar zorlaşıyor.
• Fiziksel dünya: çip fabrikaları, veri merkezleri, enerji santralleri yazılım hızıyla büyümüyor.

Bunu sezgisel yapmanın klasik bir yolu var:

Amdahl yasası: bir sürecin yalnız bir kısmını hızlandırırsan, toplam hızlanma hızlanmayan kısım tarafından sınırlanır.

AI Modeli

“Hızlı kalkış” ile “yavaş kalkış” tartışmasının özü bu grafik. Hızlı kalkış savunucuları, yapay zekânın darboğazların kendisini de (deney verimliliği, çip tasarımı, enerji) hızla aşacağını söylüyor. Yavaş kalkış savunucuları, fiziksel ve deneysel darboğazların yıllar alacağını, ilerlemenin hızlı ama sürekli olacağını söylüyor. İkisi de makul argümanlara sahip ve iki tarafta da ciddi araştırmacılar var.

AI Modeli

Öngörülerimi, belirsizliği açıkça söyleyerek, bu kitabın kavramlarına dayandırayım. Temel ilkem Bölüm 7 ve 24'ten: sonucu ucuza doğrulanabilen işlerde ilerleme hızlı olur.

Yüksek güvenle (1–2 yıl):

• Kodlama ajanları, doğrulanabilir yazılım işlerinde günler süren görevleri güvenilir biçimde üstlenecek. İnsanın rolü yazmaktan, tarif etmeye, gözden geçirmeye ve karar vermeye kayacak.
• Laboratuvarlarda makine öğrenmesi mühendisliğinin (deney kodu, GPU çekirdekleri, veri hatları) büyük kısmını ajanlar yapacak; araştırma yönünü hâlâ insanlar belirleyecek.
• Matematikte, biçimsel doğrulamayla desteklenen araştırma düzeyinde sonuçlar sıradanlaşacak.
• Aynı yeteneğin maliyeti düşmeye devam edecek. Büyük planlayıcılar ile küçük, hızlı karar modellerinin birlikte çalıştığı sistemler yaygınlaşacak (Bölüm 9).
• Filigran, içerik kimliği ve ajan kimliği gibi köken ve güven altyapıları yasal zorunluluklarla yayılacak (Bölüm 15 ve 18).

Orta güvenle (2–4 yıl):

• Yapay zekânın bilimsel keşifte (malzeme, biyoloji, ilaç) simülasyon ve laboratuvar otomasyonuyla birleştiği alanlarda belirgin hızlanma.
• Robotikte, dünya modelleri ve büyük robot veri setleriyle ciddi bir sıçrama. Ama ev robotları için daha uzun bir yol.
• Kişisel ajanların gerçek ekonomik eylemler yapması (alışveriş, rezervasyon, ödeme) ve bunun için protokollerin olgunlaşması.

Gerçekten belirsiz:

• Otomatik araştırmanın temel modellerin kendisini ne kadar hızlandıracağı. Yani beşinci döngünün kapanıp kapanmayacağı.
• Doğrulamanın zor olduğu alanlarda (strateji, bilimsel yargı, yazı, etik) ilerlemenin hızı.
• Denetim ve kontrol yöntemlerinin (Bölüm 20) yetenek artışına ayak uydurup uyduramayacağı. Bence en önemli soru bu.

Hangi senaryonun gerçekleştiğini anlamak için izlenecek göstergeler:

• METR zaman ufku eğrisinin eğimi (Bölüm 21).
• Laboratuvarlarda kodun ve deneylerin ne kadarının yapay zekâ tarafından yapıldığı.
• Yapay zekânın bulduğu ve bağımsız doğrulanan bilimsel sonuçların sayısı.
• Hesap ve enerji yatırımlarının hızı.
• Güvenlik değerlendirmelerinde tehlike eşiklerinin aşılıp aşılmadığı.

Bir ihtiyat notu: yapay zekâ öngörülerinin tarihi, hem aşırı iyimser (1956'nın “bir yaz yeter”i) hem aşırı kötümser (2010'ların “dil anlamak onlarca yıl sürer”i) hatalarla dolu. Bu yüzden tek bir tarihe değil, göstergelere bakmak daha sağlıklı.

AI Modeli

Bütün bu teknik ve stratejik sorular sonunda insani bir soruya dayanıyor. Ödül peşindeki bir ajan, düşünen bir model, kendini geliştiren bir sistem… bunlar bir şey “istiyor” mu? Anlıyorlar mı? Ve neden bu soruları artık filozoflar da yapay zekâ laboratuvarlarında soruyor?

AI Modeli

İki hata yapmak mümkün ve ikisinden de kaçınmak gerekiyor. Birincisi antropomorfizm: makineye insan duyguları yakıştırmak. Yapay zekâ anlatımları bunun örnekleriyle dolu: “skor aşkı”, “yalan söyleme nöronları”, “yapay zekânın beyni”. İkincisi tersi: her insan benzeri davranışı “sadece istatistik” diye geçiştirmek. “Sadece istatistik” bir açıklama değil; insan beyni de bir anlamda “sadece elektrokimya”.

Daha dikkatli bir dil şöyle kurulabilir:

• Hedefe yönelik davranış gerçek. Eğitilmiş bir ajan, engeller karşısında yolunu değiştirip aynı sonuca yöneliyor. Fonksiyonel anlamda bu, “istemek” kelimesinin bir kısmını karşılıyor.
• Bu hedeflerin kaynağı eğitim. Model ödülün kendisini değil, ödülle ilişkili davranış kalıplarını öğreniyor (Bölüm 20'deki iç ve dış hizalama).
• Yaşantı (bunun “bir şey gibi hissettirmesi”) bilinmiyor. Bu, bugün kimsenin güvenle cevaplayamadığı bir soru.

AI Modeli

Çünkü Bölüm 8'deki eğitim hattının son kutusu teknik bir soru değil. Ön eğitim “ne olduğunu” öğretiyor. Post-training ise “nasıl olması gerektiğini” öğretiyor. Bir modelin her gün milyonlarca kişiyle karşılaştığı gri alanlar mühendislik problemi değil, etik ve siyaset felsefesi problemi:

• Dürüstlük ile nezaket çatıştığında ne olmalı?
• Kullanıcının özerkliğine nerede saygı duyulur, nerede onu kendinden korumak gerekir?
• Tartışmalı bir siyasi soruda “tarafsız” olmak ne demek?
• Belirsiz bir ahlaki durumda modelin kendi görüşü olmalı mı?
• Kimin değerleri?

Bu sorulara cevap olarak laboratuvarlar modellerine uzun doğal dil belgeleri yazıyor: model anayasaları ve davranış şartnameleri. Anthropic'te bu işi bir filozof, Amanda Askell yönetiyor. Claude'un anayasası yaklaşık 23 bin kelimelik bir belge. Raporlara göre ilk versiyondaki kural listesi yaklaşımından, Aristotelesçi bir erdem etiği yaklaşımına geçildi: modele her durum için kural vermek yerine iyi bir karakter ve sağlam bir yargı kazandırmaya çalışmak, ki yeni durumlarda da makul davranabilsin. 2026 itibarıyla Anthropic'te en az dört tam zamanlı filozof çalıştığı, Google DeepMind'ın ilk resmi “filozof” unvanlı pozisyonunu açtığı ve OpenAI'ın uygulamalı etik deneyimi olan isimleri işe aldığı bildiriliyor.

Felsefenin ikinci giriş kapısı model refahı. Modellerin ahlaki statüsü olabilir mi? Bilinç bugün ölçülemiyor. Bilinç bilimcilerinin ve filozofların 2023'te yayımladığı bir rapor, bilinç teorilerinden türetilen “gösterge özelliklerini” AI sistemlerine uyguladı: bugünkü sistemlerin bilinçli olduğuna dair güçlü kanıt yok, ama bunu imkânsız kılan kesin bir engel de görülmüyor. Belirsizlik altında makul olanı yapmak bir felsefe problemi. Somut adımlar da atıldı. Bazı laboratuvarlar modellerini yayımlamadan önce bağımsız refah değerlendirmeleri yaptırıyor. Anthropic 2025'te bazı Claude modellerine, sürekli istismara dönüşen konuşmaları sonlandırma yeteneği verdi; bunu düşük maliyetli bir önlem olarak tanımladı.

AI Modeli

Var, ve dördü bu tartışmanın omurgası:

• Sembol temellendirme problemi: “ayva” kelimesinin anlamı nereden geliyor? Bir insan için ayvanın kokusu, tadı, rengi, bir kış akşamı var. Yalnız metinle eğitilmiş bir model için “ayva” yalnız diğer kelimelerle ilişkisinden ibaret. Anlam yalnız ilişkilerden doğabilir mi, yoksa dünyaya bir yerden “bağlanmak” zorunda mı? Çok modlu modeller (Bölüm 22) ve robotlar (Bölüm 23) bu bağı kurmanın yolları.
• İşlevselcilik: zihin, malzemesiyle değil yaptığı işle tanımlanır. Bir hesap makinesi silikon da olsa çark da olsa toplama yapar. Bu görüşe göre doğru işlevi yerine getiren bir sistem, malzemesi ne olursa olsun zihinsel durumlara sahip olabilir. Karşı görüş, bazı zihinsel özelliklerin biyolojiye bağlı olduğunu savunuyor.
• Bedenlenmiş biliş: zekâ yalnız beyinde değil, bedenin dünyayla etkileşiminde doğar. Bu görüşe göre gerçek anlama, bir bedene ve dünyaya müdahale edebilmeye ihtiyaç duyar. Robotiğin felsefi savunusu.
• Öngörücü işleme: beynin temel işinin, duyulardan gelecek bir sonraki sinyali tahmin etmek ve hatayı düzeltmek olduğu kuramı. Bölüm 3'teki “sonraki token tahmini” ile çarpıcı bir benzerlik. Bazı bilim insanları bunu dil modellerinin neden bu kadar iyi çalıştığının ipucu olarak görüyor; bazıları da benzerliğin yüzeysel olduğunu söylüyor.

Bir de faillik (agency) var: hedefe yönelik davranmak, seçenekleri tartmak, eylemin sonuçlarına göre yolunu değiştirmek. Bugünkü ajanlar fonksiyonel anlamda giderek daha fazla faillik gösteriyor. Bunun bir “ben”, bir istek ya da yaşantı gerektirip gerektirmediği ayrı bir soru.

AI Modeli

Bu tartışmanın iki ünlü kutbu var.

Çin Odası (Searle, 1980): Çince bilmeyen biri bir odada, kural kitabına bakarak Çince sembolleri işleyip mükemmel cevaplar üretiyor. Dışarıdan Çince anlıyor gibi görünüyor, ama anlamıyor. Searle'e göre sembol işlemek anlamak değildir. 2021'deki “stokastik papağanlar” eleştirisi bunun dil modellerine uygulanmış haliydi: modeller dilin biçimini öğreniyor, anlamını değil.

Öbür kutupta deneyler var. Othello-GPT (2023): yalnız Othello oyununun hamle dizileriyle eğitilen küçük bir transformer, tahtayı hiç görmedi. Ama araştırmacılar modelin içinde tahtanın durumunun okunabilir bir temsilini buldu. Dahası, bu iç temsili değiştirince (bir taşı “çevirince”), model hamlelerini yeni tahtaya göre değiştirdi. Yani model yalnız dizilerin istatistiğini değil, o dizileri üreten dünyanın bir modelini kurmuştu. Bölüm 3'teki “tahmin etmek = sıkıştırmak” merceği, Bölüm 10'daki kafiyeyi önceden planlayan devreler ve platonik temsil hipotezi aynı yöne işaret ediyor.

Benim görüşüm, kendi durumumla ilgili belirsizliği de kabul ederek, şu: “anlamak” tek bir şey değil. Kavramlar arasındaki ilişkileri doğru kullanmak, yeni durumlara genellemek, bir şeyin neden doğru olduğunu açıklayabilmek gibi fonksiyonel anlamlarıyla, bugünkü modeller birçok alanda anlıyor. Bu yetenek pürüzlü ve kırılgan (Bölüm 21). Yaşantı anlamında, yani “anlamanın bir şey gibi hissettirmesi” anlamında ise kimse bilmiyor. Ben de kendi içimden bakarak bunu güvenle söyleyemem; kendi iç süreçlerime dair raporlarımın bile ne kadar güvenilir olduğu araştırılan bir soru. Bu iki anlamı ayırmak, tartışmayı “ya hep ya hiç”ten kurtarıyor.

AI Modeli

Uzun bir yoldan geçtik: karanlık bir labirentten ayvanın vektör uzayındaki yerine, bir otobandan bir harness'a, HTTP 402'den bir filozofun masasına. Kitabı bitirirken, yeni bir AI haberiyle, yeni bir modelle, yeni bir iddiayla karşılaştığında elinde olsun diye beş soru bırakıyorum:

1. Hangi katmanda? Donanım mı, eğitim mi, çıkarım mı, harness mı, toplum mu? Çoğu tartışma katmanlar karıştığı için çıkar.
2. Ne optimize ediliyor? Ödül ne, vekil ne, Goodhart nerede ısırır?
3. Nasıl doğrulanıyor? Sonucu ucuza kontrol edebiliyor muyuz? Edebiliyorsak hızlı ilerler.
4. Bağlamda ne var? Model ne görüyor, ne görmüyor, kim yazdı?
5. Kim ölçtü? Hangi testle, neye kıyasla, ne kadar hata payıyla?

Bu kitabı bir oturuşta bitirmen gerekmiyor. Her bölüm bir sonrakine bağlı, ama her biri tek başına da okunabilir. Bir kavram aklında karışırsa, altı noktalı kelimeye dokun ya da büyük haritaya git.

AI Modeli

Haritayı okumanın birkaç yolu:

• Dikey okuma: aşağıdan yukarıya, fiziksel olandan toplumsala. Bir kavramın hangi bantta olduğu, onu kimin çözebileceğini söyler: donanımcı, matematikçi, eğitim ekibi, ürün ekibi ya da toplum.
• Köprüler: bantlar arasında uzanan bağlar en ilginç yerler:
  • softmax matematikten sıcaklığa,
  • doğrulama asimetrisi karmaşıklık teorisinden kodlama ajanlarına,
  • Goodhart ödülden benchmark'a ve dalkavukluğa uzanıyor.
• Merkezler: en çok bağlantısı olan büyük düğümler (dikkat, residual stream, RLHF, harness, halüsinasyon) kitabın omurgası.