Buradasın
ARM ve NVIDIA'nın Veri Merkezi Çipleri Üzerine Teknik Bir İnceleme
youtube.com/watch?v=19mYKYGdS_EYapay zekadan makale özeti
- Kısa
- Ayrıntılı
- Bu video, teknoloji alanında ARM ve NVIDIA'nın veri merkezi çipleri hakkında teknik bir inceleme sunuyor. Konuşmacı, iki şirketin mimari ve teknolojik gelişimlerini detaylı şekilde anlatıyor.
- Video, ARM ve X86 mimarilerinin temel farklarını açıklayarak başlıyor ve ardından NVIDIA'nın ARM temelli Grace Hopper çiplerini geliştirmeye başlamasının nedenlerini inceliyor. İşlemci ve GPU teknolojilerinin gelişimi, RAM ve bellek bant genişliği sorunları ele alınıyor. Ayrıca, Amazon Web Services'in Graviton ürünü ve NVIDIA'nın bu alandaki stratejisi, veri merkezi sektöründeki rekabet ve gelecekteki potansiyel büyüme alanları hakkında bilgiler veriliyor.
- ARM ve X86 Mimarileri
- ARM ve X86 arasında bir paylaşım söz konusu; X86 mimarisinin bilgisayar ve desktoplarda kullanılan işlem gücü için tasarlandığı, ARM'ın ise enerji tasarrufu ve verimlilikle ön plana çıktığı için telefon ve mobil cihazlarda ağırlıklı olarak kullanıldığı belirtiliyor.
- ARM, veri merkezlerinde daha çok kullanılan X86 mimarisine alternatif olarak Neoverse adlı yeni bir mimari geliştirmeye başladı ve bu mimari NVIDIA ve Amazon Web Services gibi kurumların veri merkezi çiplerinde kullanılmaya başlandı.
- Amazon Web Services'in Graviton ürününde ARM mimarisi görüldü ve NVIDIA da ARM temelli bir Grace adında CPU üreteceğini belirtti, bu da işlemci pazarında olmayan NVIDIA'nın bu alana girmesini sağladı.
- 01:23İşlemci ve GPU Gelişimindeki Dönüm Noktaları
- Yıllar içerisinde ekran kartları (GPU'lar) ve işlemci (CPU) ürünlerin işlem kapasitesi ciddi bir artış gösterdi, ancak bu gelişim işlemcilerin uzun bir süredir temposunu kaybetmesiyle neticelendi.
- NVIDIA'nın CUDA platformu, GPU'ların software-hardware ilişkisinin daha iyi sağlanmasıyla birlikte çok daha esnek ve geniş bir görev aralığında kullanılabilmesi için önemli bir emsal teşkil etti.
- GPU'lardaki işlem gücü hızlanmaya devam etti, ancak RAM (random access memory) tarafında beklenen gelişimler sağlanamadı, bu da GPU'ların aynı anda yapabileceği işlem sayısı üzerinde bir engel oluşturdu.
- 03:15RAM ve Bellek Bant Genişliği Sorunu
- RAM, işletim sistemi ünitesi olarak bilgisayarın çalışırken aynı anda birçok verinin hafızada kalmasını ve işlemcinin hızlı bir şekilde bu verilere ulaşarak sonuç vermesini sağlayan bir ünitedir.
- Son yıllarda hafıza kartlarının gücünün işlemcilerden geri kalması ile hafıza bant genişliği kavramı daha da önem kazandı ve RAM ile işlemci arasındaki veri transfer hızı farkının açılarak devam etmesi nedeniyle müdahale edilmesi gereken bir sorun haline geldi.
- NVIDIA tarafından oluşturulan Grace Hopper çipler, hafıza tarafında yaşanan zayıf seyir nedeniyle CPU'ların hafızasından da destek almak istiyor ve bunu yaparken işlemcilerde ARM mimarisini kullanıyor.
- 05:16NVIDIA'nın Stratejisi ve ARM'ın Geleceği
- NVIDIA, GPU'ların yanına bir de CPU ekleyerek hem daha yüksek bir görev aralığı kazanmış oluyor, hem müşterileri için daha kompakt bir yapı sunmuş oluyor ve hafıza konusundaki sorunlarını işletim sisteminde daha büyük bir söz hakkı edinerek cevap vermiş oluyor.
- Amazon Web Services'in Graviton ile ARM mimarisinin standart haline gelmeye başladığı ve veri merkezi ve yapay zeka teması konuşulduğu belirtiliyor.
- ARM bu alanda NVIDIA ile beraber hareket ediyor ve önümüzdeki yıllarda önemli bir yer edinmeye aday, bu şirket için belki de en önemli büyüme kalemi olacaktır.
- 06:44AX Çipler ve Gelecekteki Pazar Durumu
- NVIDIA'nın pazar payı veri merkezlerinde yüzde yüz değil, özel projeler için geliştirilmiş AX çipler, sofistike tasarımları ile belirlenmiş projelerde NVIDIA GPU'larına göre daha iyi performanslar verebiliyorlar.
- AX çipler ölçeklenme sorunuyla karşı karşıyalar ve belirlenmiş görevlerin dışına çıkılmaya başladığında verimliliklerinde ciddi bir düşüş görmeye başlıyorlar.
- Google gibi şirketler AX çipleri kullanıyor ancak en popüler olan Google TPU çipleri bile Google'ın NVIDIA ile çalışmasını engelleyemiyor, Broadcom ve Marvel gibi şirketler üretimi ile NVIDIA'nın arkasından gelen en önemli EA hikayesi olarak görülüyorlar.