Google I/O etkinliğinde tanıtılan yeni Nesil TPU'lar ile yapay zeka modelleri daha hızlı ve verimli çalışacak.
Google, üretken yapay zeka teknolojilerinin hızla gelişmesiyle birlikte, bu teknolojilerin gerektirdiği yüksek işlem gücünü, hafızayı ve iletişim kapasitesini karşılamak için donanım alanında da önemli adımlar atıyor. Şirket, Google I/O 2024 etkinliğinde, bugüne kadarki en güçlü ve enerji verimli Tensör İşleme Birimi (TPU) olan 6. nesil TPU’su Trillium’u duyurdu.
Trillium: Performans ve verimlilikte çığır açan adım
Trillium TPU’lar, TPU v5e’ye kıyasla çip başına en yüksek işlem performansında 4,7 kat artış sağlıyor. Google, Yüksek Bant Genişlikli Bellek (HBM) kapasitesini ve bant genişliğini iki katına çıkardı ve ayrıca TPU v5e’ye göre çipler arası bağlantı (ICI) bant genişliğini iki katına çıkardı.
Trillium, gelişmiş sıralama ve öneri iş akışlarında yaygın olarak kullanılan ultra büyük katıştırmaları işlemek için özel bir hızlandırıcı olan üçüncü nesil SparseCore ile geliyor.
Trillium TPU’lar, yapay zeka modellerinin bir sonraki dalgasını daha hızlı eğitmeyi ve bu modelleri daha düşük gecikme süresi ve daha düşük maliyetle sunmayı mümkün kılıyor. TPU’nun 6. nesli, aynı zamanda en sürdürülebilir TPU: Trillium TPU’lar, TPU v5e’ye göre %67’den fazla enerji verimliliği sunuyor.
Trillium, tek bir yüksek bant genişliği, düşük gecikme süresi bölmesinde 256 TPU’ya kadar ölçeklenebiliyor. Bu pod düzeyinde ölçeklenebilirliğin ötesinde, multislice teknolojisi ve Titanium Yapay Zeka İşleme Birimleri (IPU’lar) ile Trillium TPU’lar yüzlerce pod’a ölçeklenebilir, on binlerce çipi saniyede çoklu petabit veri merkezi ağı ile birbirine bağlayarak bina ölçeğinde bir süper bilgisayar oluşturuyor.
Yapay Zeka odaklı donanımın öncüsü
Google, on yıldan uzun bir süredir yapay zeka alanına özel donanımlar geliştirerek ölçek ve verimlilik sınırlarını zorluyor. 2013 yılında dünyanın ilk amaca yönelik yapay zeka hızlandırıcısı olan TPU v1’i geliştirmeye başlayan Google, bunu 2017 yılında ilk Bulut TPU ile takip etti.
TPU’lar olmasaydı, Google’ın gerçek zamanlı sesli arama, fotoğraf nesne tanıma ve etkileşimli dil çevirisi gibi en popüler hizmetleri ve Gemini, Imagen ve Gemma gibi son teknoloji temel modelleri mümkün olmazdı. TPU’ların ölçeği ve verimliliği, modern üretken yapay zekanın algoritmik temellerini oluşturan Transformer’lar üzerindeki temel çalışmaları mümkün kıldı.
Trillium ve AI Hypercomputer
Trillium TPU’lar, Google Cloud’un son teknoloji yapay zeka iş yükleri için özel olarak tasarlanmış çığır açan süper bilgisayar mimarisi olan AI Hypercomputer’ın bir parçası. AI Hypercomputer, performans için optimize edilmiş altyapıyı (Trillium TPU’lar dahil), açık kaynaklı yazılım çerçevelerini ve esnek tüketim modellerini entegre ediyor.
JAX, PyTorch/XLA ve Keras 3 gibi açık kaynaklı kitaplıklara verdiği destekle geliştiricileri güçlendiren Google, Hugging Face ile Optimum-TPU üzerinde de ortaklık kurarak model eğitimini ve sunumunu kolaylaştırdı.
AI Hypercomputer, ayrıca yapay zeka ve makine öğrenmesi iş yükleri için gereken esnek tüketim modellerini de sunuyor. Dinamik İş Yükü Zamanlayıcısı (DWS), yapay zeka ve makine öğrenmesi kaynaklarına erişimi ele alıyor ve müşterilerin harcamalarını optimize etmelerine yardımcı oluyor.
Esnek başlatma modu, eğitim, ince ayar veya toplu işler gibi ani iş yüklerinin deneyimini iyileştirerek, giriş noktanızdan bağımsız olarak ihtiyaç duyulan tüm hızlandırıcıları aynı anda programlayabiliyor.
Yapay zeka inovasyonunun yeni dalgasına güç veriyor
Trillium TPU’lar, yapay zeka modelleri ve aracılarının bir sonraki dalgasını güçlendirecek ve Google, bu gelişmiş yetenekleri müşterilerine sunmaktan heyecan duyuyor. Otonom araç şirketi Nuro, modellerini Bulut TPU’ları ile eğiterek robotik yoluyla daha iyi bir günlük yaşam yaratmaya kendini adamış durumda.
Deep Genomics, yapay zeka ile ilaç keşfinin geleceğini güçlendiriyor ve Trillium tarafından desteklenen bir sonraki temel modellerinin hastaların hayatlarını nasıl değiştireceğini dört gözle bekliyor. Google Cloud’un Yapay Zeka için Yılın İş Ortağı olan Deloitte, Trillium’u üretken yapay zeka desteğiyle işletmeleri dönüştürmek için sunacak.
Trillium TPU’lar, on yılı aşkın bir araştırma ve inovasyonun sonucu ve bu yıl içinde satışa sunulacak. Google, Trillium ile yapay zeka inovasyonunda yeni bir çağı başlatmayı hedefliyor.
