Yazeka
Arama sonuçlarına göre oluşturuldu
Transformer mimarisi, 2017 yılında yayınlanan "Attention Is All You Need" başlıklı makalede önerilen, bilgi işleme sürecini tamamen dikkat (attention) mekanizmaları üzerine inşa eden bir yapay zeka modelidir 124.
Transformer mimarisinin bazı özellikleri:
- Paralel işleme: Dikkat mekanizmaları sayesinde bilgiyi sıralamadan bağımsız bir biçimde işleyebilir ve paralel bilgi işleme yeteneği sağlar 34.
- Bağlamı iyi koruma: "Attention" mekanizması ile tüm kelimelere aynı anda odaklanarak uzun cümlelerdeki bağlamı daha iyi korur 13.
- Çoklu veri türleriyle çalışma: Metin, görsel ve ses gibi farklı veri türleriyle de çalışabilir 3.
- Büyük veriyle çalışabilme: Büyük datasets ile eğitilebilir ve girdi boyutu olarak cümleden paragraflara kadar büyütülebilir 1.
5 kaynaktan alınan bilgiyle göre: