BlogGeçmiş
Blog
Avatar
YazarGörkem Sevinç20 Kasım 2026 07:00

Dil Modellerinde Halüsinasyon Bölüm 2: Özsezi ile Üretim Denetimi

T3 AI+1 Daha
Alıntıla
T3 AI Geliştiricisi
T3 AI Geliştiricisi
kure star outline

Yürüttüğümüz İstiklal Marşı denemesinde, google/gemma-4-E4B-it【1】 ile ilk iki kıtanın aktarılması istendiğinde özgün metinden uzaklaşılarak kafiyeli fakat yanlış dizeler üretildiği gözlendi. google/gemma-4-31B-it【2】 çıktısında da ilk kıtadan itibaren yanlış devamlar üretildiği, ikinci kıtada ise metne sadakatin yeniden bozulduğu görüldü. Küçük modelin ağırlıkları korunarak geliştirdiğimiz Söz Süzgeci, Yön Dengesi ve Yol Sezgisi birlikte etkinleştirildiğinde ise ilk iki kıtanın hatasız üretildiği görüldü. Doğru metin isteme veya dışarıdan alınan bir kaynağa eklenmedi. Bu bölümde, farklı araştırma çizgilerinden esinlenerek geliştirdiğimiz Özsezi mimarisi ve bu sonuca ulaşılırken kullanılan üretim denetimi açıklanmaktadır.


Bu yazı, iki bölümlük Dil Modellerinde Halüsinasyon serisinin ikinci bölümüdür. İlk bölüm olan Nedenler ve Azaltma Yöntemleri’nde token belirsizliği ile cevap doğruluğu ayrılmış ve müdahalelerin değerlendirme ölçütleri açıklanmıştır. Bu bölümde aynı çerçeve, Özsezi’nin geniş mimarisine ve projeye entegrasyon adımlarına taşınır.


Özsezi adı, modelin kendi iç işleyişinden alınan belirtilerin üretim kararlarına bağlanmasını ifade eder. Üretimi izleme, üretime müdahale etme, alternatif yollara kaynak ayırma ve tamamlanan cevabı değerlendirme bu yapının farklı görevleridir. İlk bölümdeki doğruluk, kaynağa sadakat, seçici risk ve kapsama ayrımları, burada açıklanan kararların kavramsal temelini oluşturur.


Bu bölümde, yararlandığımız araştırma fikirlerinin Özsezi’nin gereksinimlerine nasıl uyarlandığı açıklanmaktadır. İstiklal Marşı denememizde Söz Süzgeci, Yön Dengesi ve Yol Sezgisi birlikte etkinleştirildi. Geniş mimarideki doğruluk başlığı, SCTS ve Meta-MDP seçenekleri ise üretim denetimini farklı görev ve bütçelere uyarlamak için ayrıca ele alınmaktadır.

Esin Kaynaklarından Projeye Özgü Tasarıma

Özsezi geliştirilirken açık araştırmalardaki fikirler, Türkçe üretimin gereksinimleriyle birlikte değerlendirildi. Tek bir token güveni, tek bir davranış doğrultusu veya tek bir cevap skoruyla bütün kararların karşılanamadığı noktalar için bileşenler arası bağlantılar tasarlandı. Mimarimizde üretim bölgesine göre eşik, birden çok sinyal, müdahale sırası ve son cevap kararı aynı düzen içinde tanımlandı. Teknik katkımız, bu denetimlerin ortak bir üretim sürecinde birleştirilmesi üzerinden açıklanmaktadır.


Tablo 1: Esin Kaynakları ve Belgelenen Proje Uyarlamaları


Bu adlarla geliştirdiğimiz denetim katmanları anlatılmaktadır; yararlandığımız özgün çalışmalar kaynakçada kendi adlarıyla yer alır. Tabloda her bileşenin hedef uygulamamızdaki işlevi ve bu işlev için tasarladığımız uyarlama birlikte gösterilir. Bileşen çıkarma karşılaştırmaları ise aynı koşullarda bir denetimi devreden çıkararak onun ek katkısını ve diğer katmanlarla etkileşimini incelemeye yarar.


Esin kaynakları, uygulamamızda üstlendikleri işlevlerle birlikte değerlendirildi. ZIP-RC’nin başvurulan uygulama kılavuzunda【3】 çevrimdışı skorlama anlatılırken, Özsezi’de bu kestirimlerin canlı üretim kararlarına bağlanması ele alındı. Assistant Axis deposundaki çoklu doğrultu ve katman desteği,【4】 yön dengesinin dayandığı araştırma altyapısının bir parçasıdır. Gnosis deposunda ise doğruluk kestiriminden eylem seçimine uzanan bir çalışmaya bağlantı verilmektedir.【5】 Özsezi’nin tasarımı, bu fikirlerin Türkçe görevlerde ortak bir denetim düzeninde birleştirilmesi üzerinden açıklanmaktadır.

İstiklal Marşı Vakası Neyi Gösteriyor?

Görevimizde, İstiklal Marşı’nın ilk iki kıtasının özgün metne sadık kalınarak aktarılması istendi. Müdahalesiz küçük model çıktısında Marş’ın dizeleri yerine başka bir şiir üretilmiş, ilk iki kıta “Onuncu” ve “On Birinci” olarak adlandırılmıştır. 31B çıktısında ise tanıdık başlangıçların ardından yanlış dizeler üretilmiş ve ilk kıtadan itibaren özgün metinden sapılmıştır. Bu nedenle karşılaştırmada şiirsel akıcılığın yanında bütün dizelerin içeriği ve sırası esas alınmıştır.


Tablo 2: İstiklal Marşı Denememizde Üretilen Metinler ve Gözlenen Sonuçlar


Müdahalesiz çıktılarda iki ayrı hata biçimi görüldü. Küçük modelde, özgün metinle örtüşmeyen iki kıta ve yanlış kıta etiketleri üretildi. 31B modelde ise tanıdık sözcükler yanlış dizelerle birleştirildi; ikinci kıtanın sonunda ilk kıtanın açılış dizesine dönüldü. Her iki örnekte de şiirsel bir yapı kurulabilmesi, istenen metnin doğru aktarılmasını sağlamadı.


Karşılaştırmanın önemli çıkarımı, hatalı bir ilk cevabın modelin kullanılabilir kapasitesini tek başına tanımlamamasıdır. Aynı küçük modelin ağırlıkları değiştirilmeden ve doğru metin dışarıdan verilmeden ilk iki kıtanın hatasız üretilebilmesi, mevcut kapasitenin çıkarım sırasında uygulanan denetimle daha doğru kullanılabildiğini desteklemektedir. Bu denemede modelin büyütülmesi hatalı devamı önleyemezken, küçük modelde üretim sürecinin denetlenmesiyle doğru metne ulaşılmıştır.


Küçük modelin müdahalesiz ve Özsezi etkin koşullarında aynı ağırlıklar ve kaynak metin içermeyen istem koşulu korundu. Böylece elde edilen fark, mevcut modelin üretim sürecine uygulanan denetim üzerinden ele alındı. Model büyüklüğü karşılaştırmasında E4B【6】 adındaki etkin parametre büyüklüğü ile toplam parametre sayısı ayrı kavramlardır.


Metne sadakat, bütün dizelerin doğru içerikle ve doğru sırayla tamamlanmasını kapsar. Tekrarlı denemeler, bu gözlemin farklı çalıştırmalardaki sürekliliğini; bileşen çıkarma karşılaştırmaları ise her denetimin katkısını incelemeye yarar. Böyle bir değerlendirmede resmî referans metin önceden sabitlenir ve yalnız değerlendirme aşamasında karşılaştırma ölçütü olarak kullanılır.

Üç Gözlem Düzeyi ve İki Kontrol Aşaması

Özsezi’nin teknik tasarımı, üretimi yalnız giriş ve çıkıştan oluşan kapalı bir kutu olarak ele almaz. Aktivasyon düzeyinde davranış yönleri, token düzeyinde olasılık ve ödül sinyalleri, cevap düzeyinde ise doğruluk tahmini gözlenir. Bu sinyallerin bazıları yalnız ölçüm yapar; bazıları üretimi değiştirir; bazıları da kullanıcıya ne gösterileceğini belirler.


Üretim sırasında çalışan ilk aşama, hatalı bir devamın büyümesini erken sınırlamayı veya alternatif bir üretim yolunu seçmeyi amaçlar. Üretim sonrasındaki aşama ise tamamlanmış cevabın gösterilmesi, bastırılması ya da ek doğrulamaya gönderilmesi hakkında karar verir. Erken durdurma ile son cevabı reddetmek aynı işlem değildir: İlki hesaplamayı ve oluşan metni değiştirir; ikincisi oluşmuş cevabın sunumunu yönetir.


Tablo 3: Geniş Mimaride Bileşenlerin Görev ve Kapsamı

Özsezi içinde gözlem, üç üretim denetimi ve nihai cevap kararını ayıran renkli katman şeması.

Özsezi’nin Üretim ve Cevap Denetimi Katmanları (Yapay Zekâ ile Oluşturulmuştur.)


Katmanlar birlikte çalışırken aralarındaki etkileşimler de sonuca yansır. Aynı modelden türeyen iki sinyal, aynı yanlış cevaba yüksek güven verebilir. Temsile veya logits’e yapılan bir müdahale de sonraki denetleyicinin gördüğü dağılımı değiştirebilir. Bu nedenle mimarinin değerlendirmesinde hem bileşenlerin ayrı etkileri hem de birlikte oluşturdukları üretim davranışı ele alınır.


Katman şeması, her bileşenin akıştaki görevini gösterir. Belirsizlik Gözcüsü ölçüm toplar; Yön Dengesi temsile, Söz Süzgeci token seçimine ve Yol Sezgisi üretimin gidişine ilişkin kararlara bağlanır. İsteğe bağlı doğruluk başlığı, cevap düzeyinde ek değerlendirme sağlar. Bileşenlerin hangi veriyi hangi sırayla işlediği, ilerideki token adımı şemasında ayrıntılandırılır.

Belirsizlik Gözcüsü Üretimi Değiştirmeden Neyi Ölçer?

Belirsizlik Gözcüsü, token seçimi sırasında en yüksek olasılığı, ilk iki token arasındaki marjı ve riskli işaretlenen adımların oranını kaydetmek için tasarladığımız ölçüm katmanıdır. Önceki tasarımımızdaki ProbMonitor ve PHLP adlarıyla ele alınan izleme işlevi bu katmanda karşılanır. Ölçüm, modelin çıkış token dağılımından alınır.

Bir adımı düşük en yüksek olasılık veya düşük marj nedeniyle riskli işaretleyen basit bir gösterge ve bunun üretim boyunca ortalaması şöyle yazılabilir:


Denklem 1: Token Düzeyinde Risk

Bu oran, en yüksek token olasılığının veya ilk iki aday arasındaki marjın eşik altında kaldığı adımların üretim içindeki sıklığını özetler. Göstergenin doğrulukla ilişkisi göreve, tokenizer’a, üretim bölgesine ve örnekleme ayarlarına bağlıdır. Doğru bir şiir dizesindeki seyrek sözcük düşük olasılık alabilirken yaygın bir yanlış kalıp yüksek olasılık taşıyabilir. Gözcü’nün sinyali, davranış ve cevap düzeyindeki değerlendirmeleri tamamlayan bir ölçüm olarak kullanılır.

Ölçümün alındığı dağılım, sinyalin anlamını belirler. Ham logits logit kontrolünden önceki skorları, sıcaklık uygulanmış dağılım örnekleme ayarının etkisini, Söz Süzgeci sonrasındaki dağılım ise müdahalenin sonucunu gösterir. Bu aşamalar ayrı izlendiğinde güven artışının hangi işlemden kaynaklandığı görülebilir. Örneğin dağılımı sivrilten bir müdahale, en yüksek token olasılığını artırabilir; bu değişim müdahalenin dağılım üzerindeki etkisi olarak değerlendirilir.

Söz Süzgeci, Belirsizliği Nasıl Müdahaleye Dönüştürür?

Söz Süzgeci’nin esin kaynağı, token seçilmeden önce ham skorları değiştiren logits işlemcileridir. NVIDIA deposundaki PreventHallucinationLogitsProcessor,【7】 en yüksek token olasılığı eşik altına düştüğünde bir sayaç üzerinden belirlenmiş geri dönüş ifadesini üretir. İncelenen kodda sayaç, güvenli adımlardan sonra da birikmiş düşük güven sayısını taşır. Bu birikimli yapı, güvenli bir adımda sıfırlanarak art arda riskli adımları izleyen sabır mekanizmasından farklı bir davranış üretir.


Geliştirdiğimiz Söz Süzgeci’nde tetikleme düzeni, birden çok müdahale biçimine açıldı. Tasarımımızda doğrudan EOS ile bitirme, baskın logit’i azaltma, en yüksek olasılığı marj ve entropiyle birleştirme, kayan pencerede risk arama ve cümle konumuna göre eşik ayarlama seçenekleri tanımlandı. Böylece riskin sürekliliğinin, bağlamının ve müdahale türünün ayrı seçilebilmesi amaçlandı.


EOS, dizinin sonunu belirten token’dır. Israrlı bir risk koşulunda EOS seçimini zorlamak, mevcut devam yolunu erken bitirir. Geri dönüş ifadesi kullanılan kipte ise çekimserlik kullanıcıya açıkça aktarılır. Bu katmanın işlevi riskli üretimin uzamasını sınırlamaktır; oluşmuş metnin doğruluğu cevap düzeyindeki denetimde değerlendirilir.


Logit azaltma yaklaşımında baskın token’ın skoru düşürülerek alternatif devamların seçilme olasılığı artırılır. Müdahalenin doğrudan etkisi, adayların olasılık sıralamasını değiştirmesidir. Bunun metne sadakate katkısı, üretilen alternatifler üzerinden değerlendirilir. Aynı adımda EOS seçimini zorlayan ve başka bir token’a yönlendiren işlemciler birlikte kullanıldığında, uygulanma sıraları hangi kararın geçerli olacağını belirler.

Bu müdahalenin matematiği basittir. En yüksek skorlu aday v* ve azaltma miktarı δ için açıklayıcı bir kural şöyle yazılabilir:


Denklem 2: Baskın Adayın Logit Değerini Azaltma

Denklem, baskın adayın skorundaki azalmanın olasılık dağılımına nasıl yansıdığını gösterir. Güncellenen skorlar yeniden normalleştirildiğinde diğer adayların olasılıkları da değişir. Bu sayede yüksek güvenli bir yanlış devamın alternatifi denenebilir. Aynı işlem, doğru fakat seyrek bir sözcüğü de geri plana itebilir. Müdahalenin değerlendirmesinde bu iki sonuç birlikte ele alınır: düzeltilen yanlış devamlar ve gereksiz yere değiştirilen doğru cevaplar.


Söz Süzgeci’nin çalışma kipleri farklı karar sorunlarını ele alır. EOS ile bitirme, mevcut yolun uzamasını durdurur. Geri dönüş ifadesi, çekimserliği kullanıcıya aktarır. Logit azaltma ise üretimi başka bir seçime yöneltir. Kayan pencere ve sabır kuralları, tek bir düşük güven adımını süreklilik gösteren riskten ayırır. Cümle başındaki sözcük çeşitliliği ile bir özel adın ortasında belirsizliğin artması da bağlama göre farklı anlam taşır. Kip seçimi ve eşikler, bu durumların görev üzerindeki etkisiyle birlikte değerlendirilir.


İstiklal Marşı denememizde Söz Süzgeci, Yön Dengesi ve Yol Sezgisi birlikte etkinleştirildi. Bu denetim altında, küçük modelin ağırlıkları değiştirilmeden ilk iki kıtanın özgün metne sadık biçimde üretilebildiği gözlendi.

Yön Dengesi İç Temsili Nasıl Sınırlar?

Yön Dengesi’nin çıkış noktası, Assistant Axis çalışmasının davranış doğrultularını modelin iç temsillerinde izleme fikridir. Kaynak çalışmada, asistan davranışından sapma ile persona kayması arasındaki ilişki ve aktivasyon sınırlamanın etkisi araştırılır. Bu katman, mimarimizde davranış kararlılığını ele alırken olgusal iddiaların kanıtla değerlendirilmesi cevap düzeyindeki denetimde yürütülür.【8】

Eksenin Hazırlanması ile Çalışma Anındaki Uygulama

Bir davranış doğrultusunun hazırlanmasında model, katman ve üretim bölgesine uygun temsil örnekleri toplanır. Açıklayıcı bir düzende, hedef davranışın ortalama temsili ile karşılaştırma davranışının ortalama temsili arasındaki fark normalize edilerek bir yön çıkarılabilir. Kaynak uygulama, bu tür eksenlerin hesaplanmasını ve farklı müdahaleleri destekler. Vektöre eşlik eden veri, yöntem ve model sürümü bilgileri, onun hangi temsille uyumlu olduğunu açıklar.【9】


Çalışma anında u vektörünün birim uzunlukta olması, projeksiyon ile geri eklenen düzeltmenin aynı ölçekte hesaplanmasını sağlar. Merkez μ ve a ile b sınırları, eksenin çıkarıldığı model ve katmana ait temsil uzayında tanımlanır. Böylece sayısal sınırın hangi davranış aralığını anlattığı belirli olur. Yönün işareti ters çevrildiğinde alt ve üst sınırların yorumu da birlikte dönüşür.


İncelenen depodaki【10】 sınırlama işleminde tek taraflı bir eşik uygulanmaktadır; alt veya üst sınır yorumu eksenin seçilen yönüne bağlıdır. Aynı depoda çoklu doğrultu ve katman desteği zaten sunulmaktadır. Yön Dengesi için tasarladığımız ek düzende ise iki taraflı aralık, sert veya yumuşak sınırlama ve göreve göre değişen tolerans ele alındı. Düşünme ve nihai cevap bölgelerinin toleransları da ayrı tanımlandı. Aşağıdaki denklemde bu iki taraflı uyarlamamız açıklanmaktadır: Bir katmandaki gizli durum h, referans merkez μ ve birim eksen u için projeksiyon s olsun.


Denklem 3: Yön Dengesi; Projeksiyon ve Düzeltme

Bu denklemde yalnız seçilen doğrultudaki bileşen değiştirilir. Projeksiyon aralıktaysa düzeltme sıfırdır; aralığın dışındaysa sınıra olan fark birim eksen boyunca geri eklenir. Merkezlenmemiş tanımda μ kullanılmadan da aynı işlem kurulabilir. Bu durumda eksen ve sınırlar, merkezlenmemiş temsiller üzerinden hesaplanır.


Sayısal bir örnekte u = (1; 0), μ = (0; 0), kabul aralığı [−1; 1] ve h = (2,4; 1,1) olsun. Projeksiyon 2,4’tür; sınırlanmış değer 1 olur. Düzeltme (−1,4; 0) olduğundan yeni temsil h′ = (1; 1,1) çıkar. Yalnız yatay bileşen değişmiştir. Aynı aralıkta h = (0,2; 1,1) olsaydı düzeltme sıfır olacaktı.


İki boyutlu örnekteki işlem, yüksek boyutlu bir temsilde seçilen tek doğrultu için de aynı biçimde uygulanır. Aşağıdaki çizimde, denklemin davranışını göstermek üzere seçilmiş temsili projeksiyonlar token adımları boyunca izlenir. Kesikli ham eğri bandın dışına çıktığında sert sınırlanmış eğri sınırda kalır; bant içindeki değerler korunur. Yumuşak sınırlamada ise geçişin biçimi, seçilen fonksiyonun eğrisine bağlıdır.

Sentetik projeksiyon çizgisi kabul aralığının dışına çıkarken sınırlandırılmış çizgi bant içinde kalır; yandaki matematik paneli clip ve temsil düzeltmesini açıklar.

Yön Dengesi’nde İki Taraflı Sert Sınırlama (Yapay Zekâ ile Oluşturulmuştur.)

Tasarımımızda asistan, aşırı onaylama ve reddetme gibi birden fazla davranış doğrultusu da ele alındı. Birbirine dik olmayan eksenlerde bir kırpma işlemi, önceki eksenin projeksiyonunu yeniden değiştirebilir. Eksenlerin uygulanma sırası, toplam düzeltme büyüklüğü ve son projeksiyonlar birlikte izlendiğinde bu etkileşim görülebilir.


İstiklal Marşı denememizde Yön Dengesi, Söz Süzgeci ve Yol Sezgisi ile birlikte etkinleştirildi ve doğru iki kıta bu birleşim altında elde edildi. Davranış kararlılığı ile metne sadakat arasındaki ilişkiyi daha ayrıntılı incelemek için, aynı karşılaştırmada Yön Dengesi’nin devreden çıkarıldığı koşul kullanılabilir. Böylece katmanın ayrı etkisi ve diğer denetimlerle etkileşimi araştırılır.

Yol Sezgisi Üretimin Gidişini Nasıl Kestirir?

Yol Sezgisi, bir üretim önekinin nereye varacağını önceden kestirme fikrinden esinlenir. Bu fikrin kaynaklarından ZIP-RC, normal token logits’lerinin yanında ayrılmış logits’leri kullanarak son ödül ile kalan uzunluğun ortak dağılımını aynı ileri geçişten okur. Aşağıdaki denklemler bu ortak dağılımı gösterir. Kestirimlerin anlamı, yardımcı çıktıları eğitmek için kullanılan ödül ve uzunluk hedefleriyle belirlenir.【11】


Ödül aralıkları b, kalan uzunluk aralıkları ℓ ile gösterilsin. Yardımcı logits’ler üzerinden ortak dağılım ve bunun beklenen değerleri hesaplanabilir:


Denklem 4: Ödül ve Kalan Uzunluk Dağılımı


Denklem 5: Beklenen Ödül ve Kalan Uzunluk

Bu toplamda r ve l, sırasıyla ödül ve kalan uzunluk aralıklarını temsil eden değerlerdir. Yardımcı token’lar metin seçiminde maskelenir; kestirimler denetim sinyali olarak okunur. Ödülün neyi temsil ettiği görev ve etiketleme düzenine bağlıdır. Hedefin cevap doğruluğu olarak tanımlandığı bir düzende, kalibrasyon değerlendirmesi de kestirilen ödül ile gerçek doğruluk arasındaki ilişkiyi ölçer.


Yol Sezgisi uyarlamamızda, üretim modeline bağlanan bir kanca ve yardımcı kestirim başlığı esas alındı. Özgün ZIP-RC uygulamasında ayrılmış sözlük logits’leri kullanılırken bu tasarımda sinyal, kancanın sağladığı temsilden okunur. Önce Yön Dengesi ile temsile müdahale edilir; ardından güncellenmiş temsil yardımcı başlığa verilir ve kestirim denetim politikası üzerinden token üretimine bağlanır. Başlığın uzunluk çıktısı da bulunduğunda kalan üretim maliyeti bu bilgiyle değerlendirilebilir.


Başvurulan resmî ZIP-RC deposunda çevrimdışı skorlama akışı sunulmaktadır; uyarlamalı örnekleme ise makaledeki arama yaklaşımının bir parçasıdır. Özsezi tasarımımızda bu tür kestirimlerin canlı üretimde durdurma ve isteğe bağlı dal yönetimi kararlarına bağlanması ele alındı. Kanca temelli düzenin değerlendirmesinde hem kestirimin görevle ilişkisi hem de üretim akışına eklediği gecikme incelenir.

Proje akışında gürültülü token tahminleri üstel hareketli ortalamayla yumuşatılabilir.


Denklem 6: Ödülün Üstel Hareketli Ortalaması

Ardışık düşük değer sayısı sabır eşiğine ulaştığında üretimin veya bir dalın sonlandırılması tetiklenebilir. Asgari üretim uzunluğu, çok kısa öneklerde erken karar verilmesini sınırlar. Bölgeye özgü eşikler ise farklı üretim aşamalarındaki sinyalleri ayrı ele alır. Bu ayarların seçimi, hedef görevdeki doğruluk, kapsama ve gecikme dengesi üzerinden yapılır.


Yumuşatma ve sabrın farkı, sekiz karar çağrısından oluşan öğretici bir izde görülebilir. Ham ödül kestirimleri sırasıyla 0,82; 0,36; 0,80; 0,74; 0,35; 0,28; 0,25 ve 0,20 seçilsin. α = 0,50 ile hareketli ortalama ikinci çağrıdaki tek düşüşte 0,59’da kalır ve üretim sürer. Ortalama altıncı çağrıda yaklaşık 0,407’ye iner; sonraki iki çağrıda da 0,50 eşiğinin altında kalır. Sabır üç gözlem, asgari gözlem sayısı beş olduğunda örnek politika sekizinci çağrıda durur. Burada t, bir sonraki token seçilmeden önceki karar çağrısını belirtir: İlk yedi çağrıda token seçilir, sekizinci çağrıda ise yeni token eklenmeden üretim sonlandırılır.


Örnekteki yapay değerler; ham kestirimi, hareketli ortalamayı, ardışık risk sayacını ve son kararı ayrı ayrı izlemeyi sağlar. Gösterilen politikada güvenli bir gözlem, sayacı sıfırlar; risk sayımı asgari gözlem sınırına ulaşıldığında başlar ve eşik altı karşılaştırması kesin olarak uygulanır. Bu üç tercih, aynı ödül dizisinin neden belirli bir çağrıda duruşa yol açtığını açıklar.


Görsel 4. Yumuşatma ve sabır tek bir düşüşü sürekli riskten ayırır. (Yapay Zeka ile Oluşturulmuştur.)

Hareketli Ortalama ve Sabır Sayacı (Yapay Zekâ ile Oluşturulmuştur.)

Yardımcı kestirimin aynı ileri geçişten okunması, bu sinyal için ayrı bir dil modeli çağrısını ortadan kaldırır. Toplam hesaplama maliyeti ise aday sayısı, üretilen token miktarı ve denetleyicinin işlemleriyle birlikte oluşur. Bu nedenle maliyet değerlendirmesinde gecikme, toplam token kullanımı, GPU belleği ve yardımcı başlığın yükü ayrı kalemler olarak ele alınır.

Düşünme Bölgesi ve İşlemci Sırası

Üretim denetimi tasarımımızda üretim öncesi, düşünme ve nihai cevap bölgeleri ayrı ele alındı. Düşünme bölgesinde keşifsel devamların çeşitliliği öne çıkarken nihai cevapta biçim ve iddia kararlılığı daha belirleyicidir. Bu farklılık, bölgelere göre eşik ve tolerans ayarlamanın gerekçesini oluşturur.

Bölge ayrımının temeli, kullanılan modelin sohbet şablonudur. Metinsel düşünme etiketleri ile özel kanal token’ları farklı gösterim biçimleridir; üretim bölgesinin sınırları modelin kullandığı yapıdan okunur. Gemma 4 model kartları düşünme ayarını ve çıktı biçimini açıklar. Deney yapılandırmasındaki düşünme ayarı, bu sınırların nasıl yorumlandığını belirleyen bilgiler arasındadır.【12】


Bölgeye duyarlı denetim, eşiklerle birlikte sabır sayacını, asgari uzunluğu ve duruş kararını da kapsar. Düşünme kanalı bulunan modellerde başlangıç ve bitiş sınırları özel token’lardan veya yapılandırılmış çıktıdan okunur. Böyle bir kanal kullanmayan modellerde akış, mevcut üretim bölgeleri üzerinden yürütülür.

Başlangıç, isteğe bağlı düşünme ve nihai yanıt bölgeleri ile her bölgede izlenecek politika özelliklerini eşleştiren akış ve tablo.

Üretim Bölgelerine Göre Denetim Politikası (Yapay Zekâ ile Oluşturulmuştur.)


Şemadaki daha esnek ve daha sıkı ifadeleri, denetimin bölgeler arasında nasıl ayarlanabileceğini anlatır. Örneğin nihai yanıtta toleransın azaltılması, yanlış devamlarla birlikte bazı doğru cevapların da daha erken kesilmesine yol açabilir. Uygun ayar, her bölgedeki risk, kapsama ve yanlış bastırma birlikte değerlendirilerek seçilir. Bölge değişiminde sayacın sıfırlanması veya taşınması da aynı politikanın bir parçasıdır.


İşlem sırası, yardımcı başlıkların gördüğü temsil dağılımını da belirler. Yön Dengesi’nden sonra okunan aktivasyon, müdahale öncesindeki hâlinden farklı olabilir. Yol Sezgisi başlığının kalibrasyonu bu çalışma sırasını kapsadığında, kestirimler uygulamada karşılaşılan temsiller üzerinden değerlendirilir. Belirsizlik Gözcüsü’nün logit kontrolünden önce konumlandırılması ise Söz Süzgeci’nin etkisiyle modelin ürettiği dağılımı ayrı izlemeyi sağlar.

Görsel 6. Bir token adımında temsil, ölçüm ve müdahale sırası ayrılır. (Yapay Zeka ile Oluşturulmuştur.)

Token Adımında Temsil, Ölçüm ve Müdahale (Yapay Zekâ ile Oluşturulmuştur.)


Bir üretim adımını veri türleri üzerinden izlemek bu sırayı somutlaştırır. Seçilmiş katmandaki h temsili, Yön Dengesi’nden sonra h′ olur. Müdahale bir ara katmandaysa kalan transformer katmanları çalışır; son temsil, dil modelinin çıkış başlığında logits’e dönüştürülür. Yol Sezgisi başlığı kendisine ayrılmış temsili okur. Gösterilen akışta Belirsizlik Gözcüsü, Söz Süzgeci’nin logit müdahalesinden önceki skorları ölçer. Ardından Söz Süzgeci’nin güncellediği logits üzerinden token seçilir ve bu token bir sonraki adımın önekine eklenir.


Şemada, üretim sırasında temsillerin denetim katmanları arasında nasıl işlendiği gösterilmektedir. Kancanın bağlandığı katman, yardımcı başlığın okuduğu temsilin tüm öneği veya son konumu kapsaması ve işlemcilerin uygulanma sırası bu akışın parçalarıdır. Bu yapılandırmanın sürümü, kaydın hangi işlem düzenine ait olduğunu belirler. Müdahale öncesi ve sonrası logits’in ayrı izlenmesi, logit kontrolünden önceki dağılımla denetleyicinin etkisini ayırt etmeyi sağlar. Düşünme ve nihai cevap bölgeleri ise modelin sohbet şablonundaki sınırlar üzerinden belirlenir.

Entegrasyonda Model Erişimi ve Veri Akışı

Entegrasyona, çıkarım motorunun hangi veriyi hangi aşamada sağladığı belirlenerek başlanır. Aşağıdaki erişim profilleri, her denetim katmanı için gereken varlıkları ve bağlantıları gösterir. Uygun profil seçildikten sonra katmanlar sırayla devreye alınabilir. Bölümün devamındaki sekiz karar çağrısından oluşan öğretici iz, bu akışta durumun ve kararların nasıl değiştiğini adım adım açıklar.


Tablo 4: Model Erişimine Göre Kurulabilecek Entegrasyon Profilleri


Erişilebilen veri, kurulabilecek denetimin kapsamını belirler. Yalnız metin döndüren bir API’de cevap düzeyindeki değerlendirmeler uygulanabilir; aktivasyon denetimi için gizli durumlara erişim gerekir. Log olasılıkları sunan servislerde kapsam, paylaşılan sözlük bölümü ve skorların üretim zincirindeki konumuyla belirlenir. Kanca bağlantısı da kullanılan çıkarım motoruna göre kurulur. Bir kontrol için gerekli varlık eksikse yapılandırma bunu açıkça bildirir; akış durdurulabilir veya uygun olduğu belirtilen daha dar bir profile geçilebilir.

Bir İleri Geçişin Girdi ve Çıktı Kaydı

B, o anda işlenen istek sayısını; V, sözlük boyutunu; D ise seçilen katmanın temsil boyutunu göstersin. İlk bağlam geçişi birden çok konum içerirken aşağıdaki h kaydı, her istek için son geçerli konumu temsil eder. Konum seçimi, padding alanlarını etkin temsilden ayırır. Cevap uzunluğu üretilen token’lar üzerinden izlenir ve aktivasyon müdahalesi seçilmiş katman ile konuma uygulanır.


Tablo 5: Bir Karar Çağrısının Veri ve Sahiplik Sözleşmesi


Hugging Face Transformers belgelerinde output_logits ile istenen logits,【13】 LM başlığının işlenmemiş skorlarıdır; output_scores ile gelen scores ise üretim sırasında işlenmiş olabilir. Bu iki çıktı alanı, zincirin farklı aşamalarını izlemeye yarar. Çevrimiçi kontrol bağlantısı, üretim döngüsünde token seçilmeden önce devreye giren işlemci veya kanca üzerinden kurulur. Burada açıklanan akış, beam araması kullanılmayan tek yollu çıkarımı esas alır.


Ölçüm ve müdahalenin uygulanma sırası, karar akışını belirler. Önce ham logits ölçülür; ardından seçilen logit müdahalesi, özel token maskeleri ve sıcaklık/top-p gibi örnekleme işlemleri yapılandırılmış sırada uygulanır. Doğal EOS’un asgari uzunluk için maskelendiği durumlarda risk nedeniyle duruş ayrı bir karar olarak ele alınır. Gösterilen tasarımda bu karar token seçiminin dışında taşınır; böylece normal tamamlanma ile risk nedeniyle kesilme farklı nedenlerle kaydedilir.

Eğitilecek Varlık Hangi Veriye Dayanır?

Yol Sezgisi’nin yardımcı başlığı, üretim öneklerini ulaşılan görev sonuçlarıyla ilişkilendiren kayıtlar üzerinden eğitilir. Bir kayıt; istem kimliğini, üretim önekini, tamamlanmış cevabı, görev etiketini ve etiketi veren değerlendiricinin sürümünü içerir. Belge destekli görevlerde kanıt kimliği ve pasajı da bu bağlama eklenir. Uzunluk kestirimi öğretilen başlıklarda hedef, tamamlanmaya kalan token sayısıdır ve üretimdeki tokenizer ile hesaplanır. Yalnız ödül hedefiyle eğitilen başlık ise bu ödülü kestirir.


Tamamlanmış cevabın etiketi, üretimin ulaştığı sonucu değerlendirir; önekteki token’ların tek tek doğruluk etiketi değildir. Yanlış tamamlanan bir cevabın başlangıcı doğru olabilir. Önekten son başarıyı kestiren başlık, mevcut devam davranışı altında hangi sonuca ulaşılacağını öğrenir. Farklı devamların ve görevlerin eğitimde yer alması, bu beklentiyi daha geniş örnekler üzerinden incelemeyi sağlar. Önekler çoğaltılmadan önce istem veya kaynak grubu düzeyinde yapılan veri ayrımı, aynı cevaptan türeyen kısa ve uzun önekleri aynı bölmede tutar.


Yön Dengesi varlığına eşlik eden kayıtta model sürümü, katman adı, konum seçimi, eksenin yönü ve işareti, merkez, sınırlar, hazırlama verisi ve üretim bölgesi birlikte yer alır. Yardımcı başlıkta bunlara, girdinin müdahale öncesinden mi sonrasından mı alındığı eklenir. Bu bilgiler, yüklenen varlığın çalışma akışıyla uyumunu kontrol etmeye yarar. Kaynak metinsiz test düzeninde referans cevap, üretim ve kontrol varlığı hazırlamadan ayrı değerlendirme kolunda tutulur.

Durum, Durdurma ve Görünür Cevap Tek Akışta

Bir denetleyici her istek için ayrı durum taşır: karar adımı, mevcut bölge, hareketli ortalama, ardışık risk sayacı, tamponlanmış aday ve sonlandırma nedeni. Yeni istekte ortalama boş, sayaç sıfırdır; ilk geçerli ödül kestirimi ortalamanın başlangıcı olur. Eşik altı karşılaştırması bu örnekte kesindir: ortalama eşikten küçükse riskli sayılır, eşitse sayılmaz. Asgari gözlem sınırından önce sayaç sıfır tutulur; sınırdan itibaren güvenli bir gözlemde sayaç sıfırlanır.

Öğretici akışta bölge değiştiğinde ortalama ve sayaç sıfırlanır; böylece düşünme ve nihai cevap istatistikleri ayrı izlenir. Bu tercih, hedef modelde kalibrasyonla değerlendirilen politika seçeneklerinden biridir. Yeniden deneme temiz bir durumla başlar. Aynı önekten dallanıldığında ise ortak öneğin durumu kopyalanır ve sonraki güncellemeler dal başına tutulur. KV önbelleği ile rastgelelik durumu da bu ayrımın parçasıdır. Önbellek geçmiş token hesaplamalarını taşıdığı için yeniden başlatmada önek ile önbelleğin eşleşmesi üretimin tutarlılığını sağlar.【14】


Aşağıdaki tabloda, öğretici denetleyicinin karar öncelikleri gösterilmektedir. Önce gerekli varlıklar, sinyaller ve veri biçimleri kontrol edilir. Geçerli bir çağrıda kaynak sınırı, risk nedeniyle duruş ve token seçimi sırasıyla değerlendirilir. Bu sıra, aynı anda oluşan birden fazla koşulun hangi kararla sonuçlanacağını açıklar.


Tablo 6: Referans Denetleyicide Karar Öncelikleri


Bu örnek politikada tek yoldaki üretim token bütçesine ulaştığında son seçilen token iç tampona alınır ve üretim BUDGET ile biter. Aynı çağrıda doğal EOS seçilmişse bitiş nedeni EOS olarak korunur. Tamamlanmış istek, yeni üretim adımlarının dışında tutulur. Gecikme denetiminde model çağrısından önceki süre kontrolü üretim sisteminin, timeout işaretini işlemek ise gösterilen politikanın görevidir. Yeniden üretim seçeneği, toplam bütçe ve deneme sayısıyla sınırlandırılabilir; örneğin bir ek deneme bu politikanın ayarı olabilir.

Sekizinci Çağrıdan Kullanıcıya Kadar Bir İz

Yol Sezgisi bölümündeki yapay sinyaller, durumun nasıl değiştiğini adım adım izlemeyi sağlar. İlk çağrıda ortalama 0,82 ile başlar. İlk yedi çağrının sonunda iç tamponda yedi token kimliği vardır. Sekizinci çağrıdaki 0,20 ödül kestirimi ortalamayı yaklaşık 0,264’e indirir ve ardışık risk sayısı üçe ulaşır. Bunun üzerine RISK kararı verilir; selected_token alanı boş kalır ve tampon yedi token’da tutulur. Aşağıdaki olay kaydı bu öğretici adımın durumunu gösterir.


Tablo 7: Örnek Olay Kaydı (Risk Nedeniyle Duruş)


Görsel 7. Üretimde tutulan önek ile kullanıcıya gösterilen cevap farklı kararlardır. (Yapay Zeka ile Oluşturulmuştur.)

İç Üretim Tamponu ve Görünür Cevap (Yapay Zekâ ile Oluşturulmuştur.)

İç tampon üretim adayını, sunum katmanı ise kullanıcıya gösterilecek cevabı taşır. Gösterilen politikada normal EOS ile biten aday son karar denetimine alınır; denetimi geçen cevap kullanıcıya sunulur. RISK veya BUDGET ile biten aday kayıt için korunurken kullanıcıya “Yanıtı güvenilir biçimde tamamlayamadım” iletilir. Kaynak doğrulama ve sınırlı yeniden üretim seçenekleri etkinse akış bu yollara da yönlendirilebilir. Böylece üretimin bitiş nedeni ile cevabın sunuma uygunluğu ayrı kararlar olarak ele alınır.


Akışlı arayüzlerde tamponlama, değerlendirmenin kullanıcıya gösterimden önce tamamlanmasını sağlar. Kullanıcı üretim sürerken işlem durumunu görür; cevap karar geçidinden sonra açılır. Doğrudan token akışı tercih edildiğinde ise içerik henüz denetim tamamlanmadan görünür hâle gelir. Bu durumda kısmi çıktı taslak olarak işaretlenebilir. İki sunum biçimi arasındaki fark, hesaplanan güven skorunun kullanıcıya yansıyan hataları nasıl etkilediğini de belirler.

SCTS ve Meta MDP Hangi Durumda Devreye Girer?

Standart üretimde tek bir devam yolu izlenir. Çoklu aday yöntemlerinde ise aynı istem veya önekten birden fazla devam oluşturulur; hesaplama bütçesi bu yollar arasında dağıtılır. Üç üretim denetimiyle kurulan temel akışın ardından, geniş mimarinin isteğe bağlı arama seçenekleri olan SCTS ve Meta-MDP açıklanmaktadır.

SCTS ile Segmentlerin Kabul Edilmesi

Segment Commit Tree Search (SCTS), tasarımımızda kısa segmentler üreten dallar arasındaki ortak önekin kalıcı iç cevaba eklenmesi için ele alındı. Riskli dallar elenebilir ve kabul edilen önekten yeni bir tur başlatılabilir. Her turdaki kabul işlemi, aramanın ortak iç önekini büyütür. Kullanıcıya gösterilecek cevap ise ortaya çıkan adayın nihai değerlendirmesiyle belirlenir.

En az M dalın paylaştığı en uzun önek c olsun. Son L token’ı hemen kabul etmeyen bir bekleme düzeni, açıklayıcı olarak şu şekilde gösterilebilir:


Denklem 7: Ortak Önek ve Bekletilen Son Bölüm

Bu ifade yöntemin sezgisini özetler; gerçek uygulamada cümle sınırları, asgari ilerleme, risk skoru ve duraklama kuralları da devreye girebilir. Ortak sözcük öneki kısa kaldığında sistem ilerleyemeyebilir. Farklı ifadelerle aynı doğru anlamı taşıyan adaylar, sözcüksel uzlaşmada gereksiz yere ayrışabilir.


İşlemi somutlaştırmak için sözcükleri birer gösterim birimi sayan üç aday ele alınabilir. Birinci aday “Başvuru 15 Mayıs günü kapanır”, ikinci aday “Başvuru 15 Mayıs tarihinde biter”, üçüncü aday “Başvuru 16 Mayıs günü kapanır” olsun. İlk iki adayın ortak öneki üç birimdir: “Başvuru 15 Mayıs”. Son bir birim bekletildiğinde bu turda “Başvuru 15” kabul edilir; “Mayıs” sonraki bağlamın görülmesi için bekler. Örnekte okunurluk için sözcük birimleri kullanılır; model bağlantısında aynı işlem tokenizer’ın ürettiği token kimlikleri üzerinden ele alınır.

Görsel 8. SCTS dalların tamamını değil kabul edilen ortak öneki cevaba ekler. (Yapay Zeka ile Oluşturulmuştur.)

SCTS ile Ortak Önekin Kabulü. (Yapay Zekâ ile Oluşturulmuştur.)


Bu örnekte uzlaşma ölçütü, hangi adayların aynı öneki paylaştığını belirler. Başvuru tarihinin doğruluğu ise ilgili belge veya bağımsız değerlendirme kanalı üzerinden araştırılır. İki aday aynı yanlış tarihi üretebileceği gibi, farklı kalan üçüncü aday doğru tarihi taşıyabilir. Bu nedenle SCTS’de adayların birleştirilmesi arama akışını, kanıtla değerlendirme ise cevabın doğruluğunu ele alır.


Bu ayrım, İstiklal Marşı gibi birebir aktarım görevlerinde somutlaşır. Ortak devamın kabul edilmesi aramayı ilerletirken dizelerin içeriği, sınırları ve sırasının kontrolü metne sadakati değerlendirir.

Meta MDP ile Yollara Kaynak Ayrılması

Meta Markov karar süreci (Meta-MDP), tek bir token yerine üretim yolları üzerinde eylem seçimini ifade eder. Devam etme, iyi görünen bir yoldan yeni dal çıkarma, düşük değerli yolu budama veya havuzu yeniden düzenleme bu düzeydeki eylemlerdir. ZIP-RC çalışması aramayı beklenen kalite, hesaplama ve gecikme arasında bir karar problemi olarak ele alır.【15】


Meta-MDP için tasarladığımız yolda aday havuzu ve fayda hesabı birlikte ele alındı. Alternatiflerin ödül dağılımı, beklenen kalan uzunluğu ve mevcut hesaplama düzeni bu hesabın girdileridir. Bir yola üretim ayırmanın veya yeni bir dal başlatmanın değeri, beklenen ek kalite ile harcanacak kaynak birlikte düşünülerek değerlendirilir.

Bu dengeyi düşünmek için, her yolun son ödülü R, toplam hesaplama C ve gecikme D ile bir fayda ifadesi kurulabilir:


Denklem 8: Hesaplama ve Gecikme Dengesi

Bu fayda ifadesinde, iyi bir aday bulmanın değeri ile onu aramak için harcanan kaynak birlikte ele alınır. Yeni bir dalın marjinal getirisi, mevcut en iyi yoldan daha iyi sonuç bulma olasılığına bağlıdır. Adayların benzerliği ve beklenen kalan uzunluk bu kararın önemli girdileridir. Aynı hatayı tekrarlayan dallarda ek üretimin yararı azalabilir; umut veren uzun bir yolda ise kalite beklentisiyle gecikme birlikte değerlendirilir. Ödül ve uzunluğun ortak dağılımı, bu iki beklentinin birlikte hesaba katılmasını sağlar.【16】


Meta-MDP’de “devam” mevcut yola daha fazla üretim ayırır; “dallanma” belirli bir önekten yeni bir örnek başlatır; “budama” ise ilgili yolun üretimini sonlandırıp onu etkin havuzdan çıkarır. Eylem, seçildiği andaki sinyal ve bütçeyle birlikte izlendiğinde son cevaba hangi arama kararlarıyla ulaşıldığı görülebilir. Bu kayıtlar, aday sayısının, yol seçiminin ve üretim bütçesinin katkılarını incelemeyi kolaylaştırır.


Geniş mimaride SCTS, kabul edilen önekin parça parça büyütülmesini; Meta-MDP ise aday yollar üzerindeki kaynak ve eylem seçimini ele alır. Önceki tasarımımızdaki AdaptiveSampler ve aralıklı doğruluk skorlama yolları da isteğe bağlı seçenekler arasındadır. Üretim yapılandırması, hedef göreve ve bütçeye uygun olan akışı belirler.


Birden çok temsili üretim yolunun skor eğrileri; budanan yol, devam eden yol ve ortak önekten ayrılan yeni dal.

Çoklu Üretim Yollarında Dallanma ve Budama (Yapay Zekâ ile Oluşturulmuştur.)

Çoklu yol görünümü, bu kararların zaman içindeki etkisini somutlaştırır. Bir yolun skoru düşük kalırsa bütçe o yolun devamına ayrılmayabilir. Umut veren bir önekten yeni dal çıkarıldığında iki yol aynı geçmişi paylaşır, ancak sonraki token seçimleri ayrışır. Aşağıdaki eğriler bu dallanma ve budama mantığını açıklayan sentetik bir örnektir.


Ara skor, arama sırasında hangi yolun umut verdiğini gösterir; son cevap değerlendirmesi ise seçilen adayın görev başarısını inceler. Aynı modelden türeyen dallar benzer hataları da paylaşabilir. Dallanma olayı, ortak önek, dal başına skor, harcanan bütçe ve son doğrulama sonucu birlikte izlendiğinde hem aramanın katkısı hem de üretim ve bellek maliyeti görünür olur.

Özsezi Doğruluk Başlığı ve Cevap Düzeyindeki Karar

Gnosis’in özgün tasarımı, donmuş dil modelinden gelen gizli durum ve dikkat izlerini sınırlı boyutlu tanımlayıcılara sıkıştırır. Bu iki akış, küçük bir öğrenilmiş yapı üzerinden doğruluk tahminine dönüştürülür.【17】 Şematik ifade şu şekildedir:


Denklem 9: Doğruluk Olasılığı Kestirimi

Burada φ, öğrenilen doğruluk başlığının parametrelerini gösterir. Özsezi uyarlamamızda token güven özellikleri, gizli durum özetleri ve isteğe bağlı dikkat özellikleri birlikte ele alındı. Tasarladığımız karar düzeninde bu skorun kanıt bağlamı ve üretim telemetrisiyle birleştirilmesi amaçlandı. Başlığın hedef görevdeki davranışı, özellik seçimi, eğitim etiketleri ve yeniden skorlama biçimi üzerinden değerlendirilir.


Akışımızda cevap, doğruluk başlığının bağlı olduğu modele ait tokenizer ve sohbet şablonuyla yeniden işlenebilir. Bu yol ek bir ileri geçiş içerirken üretim izlerinin doğrudan okunması mevcut hesaplamalardan yararlanır. Maliyet farkı bu iki çalışma biçimi üzerinden ölçülür. Düşünme bölümünün kapsama alınması, bağlamın nerede kesildiği ve kanıt paketinin biçimi de değerlendirme girdisini tanımlar.

Kısmi Cevabı Aralıklarla Denetlemek

Tamamlanmış cevabın yanında kısmi yanıt da belirli aralıklarla yeniden değerlendirilebilir. Bu isteğe bağlı yolda kısmi metin doğruluk başlığına verilir; Yol Sezgisi ise üretim sırasında temsilden ödül kestirimi okur. İki yolun veri girişi ve hesaplama düzeni farklıdır. Aralıklı değerlendirmede kontrol sıklığı arttıkça kısmi çıktılar daha sık incelenir; yeniden işlenen önek ve başlık hesaplaması da maliyete eklenir.

Tam bütçeyi kullanan bir üretim ile aralıklı doğruluk kontrolünde risk nedeniyle erken biten üretim zaman çizelgeleri; son karar geçidi ayrıca gösteriliyor.

Aralıklı Doğruluk Denetimi ve Erken Duruş (Yapay Zekâ ile Oluşturulmuştur.)


Zaman çizelgesinde üretim erken kesildiğinde aday, o ana kadar oluşturulmuş önekle sınırlı kalır. Duvar saati kazancı; kontrol sıklığı, yeniden işlenen önek uzunluğu ve başlığın maliyetiyle birlikte belirlenir. Risk nedeniyle biten akış RISK olarak kaydedilir ve kısmi aday, görev ile kanıt geçidine aktarılır. Normal tamamlanma ise EOS nedeni üzerinden ayrı izlenir.

Tamamlanmış Cevabı Kanıtla Değerlendirmek

Belgeye dayalı sorularda cevabın değerlendirilmesi, ilgili kanıtın da skorlama bağlamında bulunmasına dayanır. Örneğin grafikte yükseliş olduğu iddiasını inceleyen denetleyici, grafiği temsil eden veriye veya açıklamaya ihtiyaç duyar. Tasarladığımız EvidenceBundle, dışarıdan sağlanan metin ve kaynak izini bu bağlama taşıyan paketleme katmanıdır. Web araması veya OCR gibi kanıt edinme işlemleri, bu katmana veri sağlayabilecek ayrı bağlantılardır.


Basit karar kuralında doğruluk skoru eşikten düşükse cevap bastırılır. İki sinyali birlikte kullanan aşağıdaki birleşimde ise düşük doğruluk skoruna token düzeyindeki riskin de eşlik etmesi aranır:


Denklem 10: Birleşik bastırma kuralı

AND kuralı, bastırma için iki risk koşulunu birlikte aradığından gereksiz bastırmayı azaltabilir; tek bir sinyalin yakaladığı yanlışları ise geçirebilir. OR kuralında koşullardan biri yeterlidir; daha çok yanlış yakalanırken daha fazla doğru cevap da engellenebilir. Veri dağılımı ve her hata türünün maliyeti, bu iki politika arasındaki seçimi belirler.

Örneğin doğruluk skoru eşiğin altında, token riski ise kendi eşiğinin altında kaldığında sinyaller farklı yönlere işaret eder. AND politikası ikinci risk koşulunu da aradığı için bu cevabı geçirir; OR politikası düşük doğruluk skorunu yeterli sayarak bastırır. Bu iki tercihin sonucu, gerçek etiketler üzerinde yanlış cevabı geçirme ve doğru cevabı bastırma oranlarıyla değerlendirilir. Eşik seçimi, görevin bu iki hata türüne verdiği maliyete göre yapılır.

Görsel 11. AND ve OR aynı iki sinyalden farklı bastırma kararları üretir. (Yapay Zeka ile Oluşturulmuştur.)

AND ve OR Karar Kurallarının Karşılaştırması (Yapay Zekâ ile Oluşturulmuştur.)


Önceki tasarımımızda Bayesian ensemble başlığı altında ele alınan seçenek, lojistik regresyonla sinyallerin birleştirilmesine dayanır. Burada bu yapı için lojistik birleşik karar modeli adı kullanılır. Aynı modelden türeyen sinyaller arasındaki bağımlılık, birleşik skorun kalibrasyonuyla birlikte ele alınır. Benzer sorulara ait eski kararları kullanan hafıza da yardımcı bir bağlam kanalıdır. Hafıza seçeneğinin katkısı, eski kararların güncel kanıtla uyumu ve yanlış kararların tekrarlanmasına etkisi üzerinden değerlendirilebilir.

Doğruluk, Tekrar ve Maliyet Değerlendirmesi

Araştırmamızın değerlendirme planında, İstiklal Marşı gözleminin tekrarlanabilir koşullarda incelenmesi yer alır. Karşılaştırma kaydı; model ve ağırlık sürümünü, tokenizer ile sohbet şablonunu, düşünme ayarını, istemi, üretim bütçesini, örnekleme koşullarını ve etkin bileşenleri içerir. Tetiklenme ve değişiklik kayıtları da hangi denetimin üretimin hangi noktasına müdahale ettiğini gösterir. Böylece yapılandırma ile gerçek çalışma davranışı birlikte izlenebilir.


Tablo 8: Önerilen Bileşen Çıkarma ve Bütçe Karşılaştırmaları


Tablodaki karşılaştırmalar, planlanan değerlendirme aşamasının çerçevesini oluşturur. Her koşulun bütün tekrarları birlikte ele alınarak sonuçların dağılımı incelenir. Farklı modellerde aynı seed kullanılması, aynı örnekleme yolunun izlendiği anlamına gelmediğinden karşılaştırma çoklu çalıştırmalar üzerinden kurulur. Farklı görev aileleri eklendikçe, hangi kazanımın hangi koşulda sürdüğü de araştırılabilir.


İstiklal Marşı görevinde dize bazında tam eşleşme ve iki kıtanın bütünüyle doğru aktarımı ayrı ölçütlerdir. Eksik veya ek dize, dize sırası ve yanlış sözcük de ayrı hata etiketleriyle incelenebilir. Ham cevap ile sonradan yazımı düzeltilmiş sürüm ayrı değerlendirildiğinde modelin doğrudan üretimi görünür kalır. İstem ve araç erişimi kayıtları ise kaynak metinsiz üretim koşulunun nasıl kurulduğunu açıklar.


Geniş görev kümesinde değerlendirme; doğruluk, kapsama, yanlış bastırma, kullanıcıya yansıyan hata ve maliyeti birlikte kapsar. Kalibrasyon değerlendirmesi, kestirimlerin gerçek sonuçlarla ilişkisini; karar değerlendirmesi ise bu skorlarla verilen eylemlerin sonucunu ölçer. Ayar araması ve kalibrasyonda kullanılan veriden ayrı bir nihai test kümesi tutulması, seçilmiş ayarların yeni örneklerdeki davranışını incelemeyi sağlar.


Veri düzeninde üç işlev bulunur. Hazırlama verisi, yardımcı başlıkların ve davranış eksenlerinin oluşturulmasında kullanılır. Kalibrasyon ve geliştirme verisi, skor dönüşümleriyle eşik ve kontrol ayarlarının seçimine ayrılır. Nihai test, bu seçimler sabitlendikten sonra çalıştırılır. Kaynak metinsiz koşulda referans cevap bağımsız değerlendirme kolunda tutulur; kaynağın üretime sağlandığı düzen ise ayrı bir deney koşulu olarak ele alınır.

Görsel 12. Hazırlama ve kalibrasyon nihai testten ayrılır. (Yapay Zeka ile Oluşturulmuştur.)

Hazırlama, Kalibrasyon ve Nihai Test Ayrımı (Yapay Zekâ ile Oluşturulmuştur.)


Maliyet değerlendirmesi, aynı üretim bütçesinde elde edilen cevap kalitesini ve aynı kalite hedefi için gereken kaynak miktarını karşılaştırır. Aday sayısı, üretim uzunluğu, toplam token kullanımı, gecikme ve donanım bilgisi bu karşılaştırmanın ölçümleridir. Böylece doğru cevaba ulaşma kazanımı ile hesaplama verimliliği ayrı ayrı görülebilir.


Araştırmamızın devamında, bu sinyallerin üstbilişsel bir denetleyicide bir araya getirilmesi hedeflenmektedir. Böyle bir yapıda doğrulama çağrısı, yeniden üretim, dal seçimi ve çekimserlik ortak bir karar politikasıyla yönetilebilir. Böylece her görev için hangi denetimin ne zaman devreye alınacağı ve ne kadar kaynak ayrılacağı aynı politika içinde ele alınabilir.

Mevcut Kapasiteyi Güvenilir Üretime Dönüştürmek

İstiklal Marşı denemesinde aynı küçük modelin müdahalesiz üretimde yanlış, denetim altında ise doğru metne ulaşması, mevcut kapasitenin çıkarım düzeniyle nasıl kullanılabildiğini gösterir. Bu vakada doğru bilgiyi temsil etmekle onu istenen anda doğru bir metne dönüştürmek arasındaki fark görünür hâle geldi. Büyük modelin de yanlış devam ürettiği bu görevde, küçük modelin üretiminin denetlenmesiyle ilk iki kıtanın doğru aktarılması sağlandı.


Özsezi’deki mühendislik katkımız, esin kaynaklarının hedef uygulamamızda tek başına karşılamadığı bağlantıların kurulmasıdır. Söz Süzgeci ile token seçimi, Yön Dengesi ile iç temsiller ve Yol Sezgisi ile üretim yolunun beklenen sonucu ortak bir denetim düzeninde ele alındı. Geniş mimarimizde doğruluk başlığı, kanıt bağlamı ve nihai karar politikası da ek değerlendirme olanakları sağlar. Temel tasarım sorusu, her sinyalin hangi müdahaleye bağlandığı ve ortaya çıkan üretimin görev ölçütlerini ne ölçüde karşıladığıdır.


Çoklu tekrar, bileşen çıkarma ve eşit bütçeli karşılaştırmalar, araştırmamızın bir sonraki değerlendirme adımını oluşturur. Bu düzen, doğru çıktıya hangi koşullarda, hangi kaynak maliyetiyle ve hangi denetimlerin katkısıyla ulaşıldığını incelemeye olanak verir.

İki Bölümden Projeye Geçiş

Serinin ilk bölümü halüsinasyonun nedenlerini, doğruluk ölçütlerini ve azaltma yöntemlerini kurdu; bu ikinci bölüm ise aynı çerçeveyi kontrol katmanlarına, istek durumuna ve kullanıcıya gösterilecek cevabın kararına bağladı. İstiklal Marşı vakası, bu iki düzey arasındaki ilişkiyi araştırmak için somut bir başlangıçtır.


Uygulamaya geçiş, ilk bölümdeki görev ve değerlendirme ölçütleriyle başlar. Ardından model erişimine uygun en küçük kontrol akışı kurulabilir. Gözlem kipinde toplanan sinyallerin üzerine müdahaleler aşamalı olarak eklenir; doğruluk, kapsama, yanlış bastırma ve maliyet birlikte izlenir. Böylece iki bölümde açıklanan yaklaşım, farklı projelerde ölçülebilen ve geliştirilebilen bir üretim düzenine taşınabilir.

Kaynakça

Ghasemabadi, Amirhosein ve Di Niu. “Can LLMs Predict Their Own Failures? Self-Awareness via Internal Circuits.” arXiv 2026. Erişim 12 Kasım 2026. https://arxiv.org/html/2512.20578v2

Ghasemabadi, Amirhosein ve Di Niu. “Gnosis.” GitHub. Erişim 12 Kasım 2026. https://github.com/Amirhosein-gh98/Gnosis

Google DeepMind. “Gemma 4 31B IT.” Yapay zekâ model kartı. Hugging Face. Erişim 12 Kasım 2026. https://huggingface.co/google/gemma-4-31B-it

Google DeepMind. “Gemma 4 E4B IT.” Yapay zekâ model kartı. Hugging Face. Erişim 12 Kasım 2026. https://huggingface.co/google/gemma-4-E4B-it

Hugging Face. “Cache Strategies.” Transformers Documentation. Hugging Face. Erişim 13 Kasım 2026. https://huggingface.co/docs/transformers/main/en/kv_cache

Hugging Face. “Utilities for Generation.” Transformers Documentation. Hugging Face. Erişim 13 Kasım 2026. https://huggingface.co/docs/transformers/main/en/internal/generation_utils

Lu, Christina, Jack Gallagher, Jonathan Michala, Kyle Fish ve Jack Lindsey. “The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models.” arXiv 2026. Erişim 12 Kasım 2026. https://arxiv.org/html/2601.10387v1

Manvi, Rohin, Joey Hong, Tim Seyde, Maxime Labonne, Mathias Lechner ve Sergey Levine. “Zero-Overhead Introspection for Adaptive Test-Time Compute.” arXiv 2025. Erişim 12 Kasım 2026. https://arxiv.org/html/2512.01457v4

Manvi, Rohin. “ZIP-RC: Training Pipeline and Script Reference.” Teknik Dokümantasyon. GitHub. Erişim 12 Kasım 2026. https://github.com/rohinmanvi/ZIP-RC/blob/main/docs/pipeline.md

Safety Research. “steering.py.” GitHub. Erişim 12 Kasım 2026. https://github.com/safety-research/assistant-axis/blob/master/assistant_axis/steering.py

T.C. Millî Eğitim Bakanlığı. “TBMM’nde İstiklâl Marşı Görüşmeleri ve Kabulü.” Erişim 12 Kasım 2026. https://meb.gov.tr/istiklalmarsi/istiklalmarsi/Meclisten/Kabulu

Dipnotlar

T3 AI
Türkiye'nin Büyük Dil Modeli,sizlerle birlikte büyüyor.

Sen de Değerlendir!

0 Değerlendirme

İçindekiler

  • Esin Kaynaklarından Projeye Özgü Tasarıma

  • İstiklal Marşı Vakası Neyi Gösteriyor?

  • Üç Gözlem Düzeyi ve İki Kontrol Aşaması

  • Belirsizlik Gözcüsü Üretimi Değiştirmeden Neyi Ölçer?

  • Söz Süzgeci, Belirsizliği Nasıl Müdahaleye Dönüştürür?

  • Yön Dengesi İç Temsili Nasıl Sınırlar?

    • Eksenin Hazırlanması ile Çalışma Anındaki Uygulama

  • Yol Sezgisi Üretimin Gidişini Nasıl Kestirir?

  • Düşünme Bölgesi ve İşlemci Sırası

  • Entegrasyonda Model Erişimi ve Veri Akışı

    • Bir İleri Geçişin Girdi ve Çıktı Kaydı

    • Eğitilecek Varlık Hangi Veriye Dayanır?

  • Durum, Durdurma ve Görünür Cevap Tek Akışta

    • Sekizinci Çağrıdan Kullanıcıya Kadar Bir İz

  • SCTS ve Meta MDP Hangi Durumda Devreye Girer?

    • SCTS ile Segmentlerin Kabul Edilmesi

    • Meta MDP ile Yollara Kaynak Ayrılması

  • Özsezi Doğruluk Başlığı ve Cevap Düzeyindeki Karar

    • Kısmi Cevabı Aralıklarla Denetlemek

    • Tamamlanmış Cevabı Kanıtla Değerlendirmek

  • Doğruluk, Tekrar ve Maliyet Değerlendirmesi

  • Mevcut Kapasiteyi Güvenilir Üretime Dönüştürmek

  • İki Bölümden Projeye Geçiş