Encoder-Decoder
Encoder-decoder, giriş dizisini sıkıştırılmış bir temsile kodlayan (encoder) ve bu temsili çıktı dizisine dönüştüren (decoder) iki bileşenli sinir ağı mimarisidir.
Duz Turkce Aciklama
Encoder-decoder, özellikle makine çevirisi için tasarlanmış bir Transformer mimarisi varyantıdır. Encoder, kaynak dildeki metni anlam açısından zengin bir vektör temsiline dönüştürür. Decoder bu temsili kullanarak hedef dildeki metni adım adım üretir. T5 ve BART gibi modeller bu mimariyi kullanır. Sadece encoder modeller (BERT gibi) metin anlamak, sadece decoder modeller (GPT gibi) metin üretmek için optimize edilmiştir.
Nerede Kullanilir?
Makine çevirisi, metin özetleme, soru yanıtlama ve diğer dizi-dizi (seq2seq) dönüşüm görevlerinde kullanılan temel mimari kavramdır.
Ornek
Google Translate'in temelindeki model, İngilizce cümleyi encoder ile anlamsal temsile çeviriyor ve ardından decoder ile Türkçe karşılığını üretiyor.