Llama.cpp
Yazeka
Arama sonuçlarına dayanarak oluşturuldu
llama.cpp, Windows platformunda çalışan ve C/C++ ile büyük dil modellerini (LLM) entegre etmek için kullanılan ücretsiz bir araçtır. Kullanıcıların yerel cihazlarda metin üretimi, tamamlama ve diğer model işlemlerini gerçekleştirmesine olanak tanır.1234
CPU ve GPU desteği sunarak hem masaüstü hem de taşınabilir cihazlarda verimli performans sağlar. Özellikle sınırlı donanım kaynaklarına sahip sistemlerde model kullanımını kolaylaştırır.45
Açık kaynaklı yapısı ve geniş ekosistemiyle geliştiricilerin projelerinde esnek çözümler sunar.35
Kısa bilgiler
- Yayın tarihi:2023