Buradasın
Transformer mimarisi nedir?
Yazeka
Arama sonuçlarına göre oluşturuldu
Transformer mimarisi, 2017 yılında Vaswani ve arkadaşları tarafından tanıtılan, doğal dil işleme (NLP) ve yapay zeka alanlarında çığır açan bir derin öğrenme modelidir 12.
Temel özellikleri:
- Paralel çalışabilme: Geleneksel RNN ve LSTM mimarilerine kıyasla daha verimli ve hızlı sonuçlar üretir 13.
- Uzun bağlamları anlama: Dikkat (attention) mekanizmasını kullanarak, bir cümledeki her kelimenin diğer kelimelerle olan ilişkisini öğrenir ve bağlamı daha iyi anlar 13.
- İki ana bileşen: Encoder (kodlayıcı) ve Decoder (çözücü) 13.
Kullanım alanları:
- Makine çevirisi 34.
- Metin özetleme 34.
- Soru-cevap sistemleri 34.
- Görüntü işleme (Vision Transformer - ViT) 14.
Öne çıkan modeller:
5 kaynaktan alınan bilgiyle göre: