Meta Llama 3, Meta tarafından geliştirilen, açık kaynaklı bir büyük dil modelidir (LLM). Bazı özellikleri: Model çeşitleri: 8B ve 70B parametre kapasitelerine sahip önceden eğitilmiş ve talimatlara göre ince ayarlanmış modeller içerir. Genişletilmiş kelime bilgisi: 128.256 jetondan 32.000 jetona çıkarıldı. Geliştirilmiş bağlam uzunluğu: 8.000 jetona kadar çıktı işleme kapasitesi. Daha geniş dil desteği: %30'un üzerinde yüksek kaliteli, İngilizce olmayan veri içerir. Gelişmiş talimat ayarlama teknikleri: Denetimli ince ayar, reddetme örneklemesi, yakın politika optimizasyonu ve doğrudan politika optimizasyonu gibi yöntemler kullanılır. Çok modlu sürüm geliştirme: Görüntüler, el yazısıyla yazılmış metinler, video görüntüleri ve ses klipleri gibi farklı yöntemlerle çalışacak bir sürüm üzerinde çalışılıyor. Llama 3, Facebook, Instagram ve WhatsApp gibi Meta platformlarında ve yakında çeşitli bulut hizmetlerinde kullanılacak.