Amazon (NASDAQ:AMZN) Web Services (AWS), sektörde Nvidia'nın hakimiyetine meydan okuyan, kendi özel yapım yapay zeka (AI) çiplerini içeren yeni veri merkezi sunucularının tanıtımını duyurdu. Apple (NASDAQ:AAPL) Inc.'in bu yeni Trainium2 çiplerini kullanmayı planlayan bir müşteri olduğu doğrulandı. AWS'nin bulut birimi, bu sunucuların yüz binlerce çip içerecek devasa bir süper bilgisayarın parçası olacağını açıkladı. Bu duyuru Salı günü yapıldı.
AWS'nin Trainium2 çipleriyle güçlendirilen bu süper bilgisayar, ilk olarak AI girişimi Anthropic tarafından kullanılacak. Güvenilir ve yorumlanabilir AI sistemleri oluşturmakla tanınan Anthropic, AI modellerinin yeteneklerini geliştirmek için bu hesaplama gücünden yararlanacak.
Apple'dan bir yönetici olan Benoit Dupin, teknoloji devinin Trainium2 çiplerini kullandığını doğrulayarak, AWS'nin yeni ürününün önemli bir benimsenmesine işaret etti.
AWS Baş Yöneticisi Matt Garman, şirketin halihazırda AI çiplerinin bir sonraki evrimi olan ve gelecek yıl piyasaya sürülmesi planlanan Trainium3 üzerinde çalıştığını da açıkladı.
AWS Trainium2 ile güçlendirilen yeni Amazon Elastic Compute Cloud (Amazon EC2) örnekleri artık genel kullanıma sunuldu ve Trn2 UltraServers'ı tanıttı. Bu UltraServers, büyük dil modelleri (LLM) ve temel modeller (FM) dahil olmak üzere çağdaş AI modellerinin eğitimi ve dağıtımı için olağanüstü performans ve maliyet verimliliği sağlamak üzere tasarlandı.
Trn2 örnekleri, mevcut GPU tabanlı EC2 örneklerine göre %30-40 daha iyi fiyat performansı vaat ediyor ve 20,8 pik petaflops hesaplama gücü sunan 16 Trainium2 çip içeriyor. Bu, onları milyarlarca parametreye sahip AI iş yüklerini işlemek için ideal hale getiriyor.
Daha da zorlu AI görevleri için Trn2 UltraServers, 83,2 pik petaflops'a kadar hesaplama gücü için 64 birbirine bağlı Trainium2 çip içeren yeni bir EC2 hizmeti sunuyor. Bu kurulum, tek bir örneğin hesaplama, bellek ve ağ yeteneklerini dört katına çıkararak dünyanın en büyük AI modellerinin eğitilmesini ve dağıtılmasını mümkün kılıyor.
AWS ve Anthropic arasındaki işbirliği projesi olan Project Rainier, tamamlandığında dünyanın en büyük AI hesaplama kümesi haline gelecek olan Trn2 UltraServers'tan oluşan bir EC2 UltraCluster inşa etmeyi amaçlıyor.
AWS ayrıca, 3 nanometre işlem düğümü kullanılarak üretilecek ve mevcut Trn2 UltraServers'ın performansını dört katına çıkaracağı vaat edilen yaklaşan Trainium3 çipini de vurguladı.
AWS Neuron yazılım geliştirme kiti (SDK), AI modellerinin Trainium çiplerinde çalışacak şekilde optimize edilmesini kolaylaştırıyor, JAX ve PyTorch gibi popüler çerçeveleri destekliyor ve 100.000'den fazla model barındıran Hugging Face model merkeziyle entegre ediliyor.
Trn2 örnekleri şu anda US East (Ohio) AWS Bölgesi'nde kullanılabilir durumda ve yakında ek bölgelerde de kullanıma sunulması planlanıyor. Bu arada, Trn2 UltraServers bir ön izleme aşamasında sunuluyor.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.