Bağlam Penceresi
Bağlam penceresi, bir LLM'in yanıt üretirken aynı anda işleyebildiği maksimum token sayısını ifade eden kapasitedir.
Duz Turkce Aciklama
Bağlam penceresi, modelin 'çalışma belleği' gibidir. Pencere dolduğunda model eski bilgilere artık erişemez. İlk nesil modellerde bu sınır birkaç bin token iken (GPT-3.5'te 4.096), modern modeller 128.000'den 1 milyona kadar token işleyebilmektedir. Büyük bağlam penceresi uzun belgelerin analizi, kod tabanı sorgulama ve çok turlu konuşmalar için kritik bir avantajdır. Ancak büyük pencereler daha fazla hesaplama kaynağı tüketir.
Nerede Kullanilir?
LLM ürün karşılaştırmalarında, RAG mimarisi tasarımında ve uzun belge analizi uygulamalarında temel kriter olarak değerlendirilir. API belgelerinde ve modelin teknik özelliklerini listeleyen sayfalarda sıkça yer alır.
Ornek
Bir hukuk firması, 100 sayfalık sözleşmeleri tek seferde analiz edebilmek için 128K bağlam penceresi sunan bir model seçti.