Yapay Zeka Donanımına Yatırım: CPU'lardan XPU'lara

Yapay Zeka Donanımına Yatırım: Kazma ve Kürek Yaklaşımı

Yapay zeka, son birkaç onyılda ekonomimizde, üretim sistemlerimizde ve toplumumuzda en önemli değişim olma potansiyeline sahip olup, internetin getirdiği radikal değişimleri bile önemsiz kılma potansiyeline sahiptir.

Sürücüler, tercümanlar, müşteri destek personeli, web tasarımcıları vb. dahil olmak üzere bir dizi iş kategorisinin tamamen ortadan kalkmasına neden olabilir. Programcılar, giriş seviyesi avukatlar, teşhis uzmanları vb. gibi diğer işlere olan talepte ise radikal bir düşüş görülebilir.

Ayrıca, baskın yapay zeka yazılım şirketlerinin daha önce hayal bile edilemeyen piyasa değerlerine ulaşan ilk şirketler olması muhtemel olduğundan, birçok başka görev için de çok fazla ek değer ve üretkenlik yaratması bekleniyor.

Tüm bu nedenlerden dolayı, sermaye piyasaları ve yatırımcılar yapay zekaya hayran kalmış durumda ve yapay zeka alanındaki birçok teknoloji devinin ilerlemesine ve Çinli teknoloji devlerinin ortaya çıkardığı güçlü rekabete büyük ilgi gösteriyorlar. Alibaba ve başlangıçlar gibi Derin Arama.

Yapay zeka patlamasından yararlanmanın bir diğer yolu da, her altın hücumunda işe yaradığı bilinen stratejiyi izlemektir: Altın aramayın, kazma ve kürekleri satın. Bu, yapay zekaya optimize edilmiş donanım satmak için en iyi konumda olan şirketler için kesinlikle işe yaradı. Nvidia (NVDA -2.33%) Oyun grafik kartlarını yapay zeka eğitim çiplerine dönüştürerek dünyanın en değerli şirketi haline gelen ve şaşırtıcı 4 trilyon dolarlık piyasa değerini aşan (Nvidia hakkında tam bir rapor için bağlantıyı takip edin).

Yapay zekanın, önceki diğer bilgi işlem görevlerinden çoğunlukla farklı, çok özel donanımlar gerektirmesi ve çok büyük bir iş fırsatı sunması nedeniyle, yarı iletken endüstrisi artık yapay zeka programlarını eğitmek ve çalıştırmak için özel olarak tasarlanmış yeni donanım biçimleri geliştirmek için yarış halinde.

Nvidia'nın sektördeki en büyük şirketlerden biri olmaya devam etmesi muhtemel olsa da, alternatifler ortaya çıkıyor ve erkenden dikkat eden yatırımcılar için ilginç fırsatlar sunabilir.

Yapay Zekanın Neden Özel Donanıma İhtiyacı Var?

Birçok Küçük Hesaplama

Yapay zeka alanındaki ilk çalışmalar, diğer programlarla aynı bilgi işlem kapasitesini kullanmış ve çoğunlukla işlemcilere (Merkezi İşlem Birimi - CPU'lar) odaklanmıştır. CPU'lar hâlâ önemlidir, ancak şu anda yapay zeka geliştirmek için kullanılan yöntemlerin çoğu için ideal olmadıkları kısa sürede ortaya çıkmıştır.

Yapay sinir ağları ve benzeri yöntemler, tek bir karmaşık hesaplama yerine, nispeten basit hesaplamalar gerektirir. Bu nedenle, çok sayıda küçük çipin paralel çalışması, genellikle büyük ve güçlü CPU'lardan daha iyidir.

GPU'ların hızla popüler hale gelmesinin en büyük sebeplerinden biri de budur; çünkü grafik kartları, doğası gereği binlerce küçük hesaplamayı paralel olarak gerçekleştirecek şekilde tasarlanmıştır.

Günümüzün yapay zeka eğitimi büyük ölçüde sinir ağlarına dayanmaktadır. 2024'te Fizik Nobel Ödülü'nü kazandıran bir kavram, o zamanlar özel bir makalede ayrıntılı olarak ele aldığımız bir ödül.

Kaynak: Nobel Ödülü

Yapay zeka teknolojisindeki ikinci devrim "transformatörler" ile geldi. Geleneksel sinir ağlarının sorunlarını çözüyorlar. herhangi bir doğal dilin ortak bir özelliği olan uzun veri dizilerini verimli bir şekilde işleme yeteneğinin olmaması.

Google araştırmacıları tarafından ilk kez 2017 yılında tanıtılan bu kavram, yapay zeka kapasitesindeki mevcut patlamanın temel nedenidir. Transformatörler, ChatGPT de dahil olmak üzere LLM (Büyük Dil Modelleri) gibi yapay zeka ürünlerinin merkezinde yer alır.

Farklı Gereksinimler

Yapay zeka iş akışlarındaki önemli bir ayrım, ince ayar ve çıkarım, her ikisinin de farklı donanım gereksinimleri vardır.

• İnce ayar Alana özgü veriler üzerinde bir modelin eğitilmesini içerir ve önemli miktarda işlem gücü ve bellek gerektirir. Genellikle yapay zeka biliminin en uç noktasında yer alan oldukça teknik bir görevdir.
• sonuç önceden eğitilmiş bir modeli kullanarak çıktı üretmeye odaklanır, daha az hesaplama gücü gerektirir ancak düşük gecikme süresine ve maliyet etkinliğine daha fazla odaklanır.
  • Bu, gerçek yaşam sorunlarını çözmek için önceden var olan modelleri kullanan yapay zeka uzmanları tarafından daha rutin olarak yapılır.

Dolayısıyla, maliyetler hem ince ayar/eğitim hem de çıkarım/yapay zeka kullanımı için açıkça bir endişe kaynağı olsa da, eğitim genellikle mümkün olan en iyi donanımı gerektirecektir; kullanım görevleri ise en iyi donanım seçeneğini seçerken daha çok donanım maliyetine ve enerji tüketimine odaklanacaktır.

CPU'lar ve GPU'lar

Merkezi İşlem Birimleri (CPU'lar):

CPU'lar genel amaçlıdır ve özellikle yapay zeka donanımları değildir. Ancak, yapay zeka sistemlerinde talimatları yürütmek ve temel hesaplamaları gerçekleştirmek için yine de gereklidirler.

Bir yapay zeka sisteminin son kullanıcılarıyla arayüzü yöneten yazılımların çoğu, ister bireysel bilgisayarlar ister bulut tabanlı yazılımlar olsun, CPU merkezli olacaktır.

Kaynak: AnandTech

CPU'lar, özel donanıma ihtiyaç duyulmayan çok basit yapay zekalar için de kullanılabilir. Bu, özellikle çıktının çok acil olmadığı ve CPU'ların nispeten yavaş yapay zeka işlemesinin sorun olmadığı durumlarda geçerlidir.

Bu sayede, küçük veri ve hesaplama grupları içeren küçük modeller, CPU'larda iyi performans gösterebilir. Normal bilgisayarlarda CPU'ların her yerde bulunması, yapay zekaya özel donanıma yatırım yapmak istemeyen ortalama bir kullanıcı için de iyi bir seçenek haline getirir.

CPU'lar aynı zamanda oldukça güvenilir ve kararlıdır, bu da onları hata olmamasının önemli bir kriter olduğu kritik görevler için iyi bir seçim haline getirir.

Son olarak, CPU'lar yapay zeka eğitimindeki bazı görevler için faydalıdır, genellikle veri yükleme, biçimlendirme, filtreleme ve görselleştirme gibi diğer donanım türleriyle iş birliği içindedir.

Grafik İşlem Birimleri (GPU'lar):

Başlangıçta grafik işleme için tasarlanan GPU'lar, paralel işleme için tasarlanmıştır ve bu da onları büyük veri kümelerini işlemeyi gerektiren yapay zeka modellerinin eğitimi için ideal hale getirir. CPU'lardan GPU'lara geçiş, eğitim sürelerini haftalardan saatlere indirmiştir.

Yaygın olarak bulunabilmeleri ve BT uzmanlarının onlarla çalışma deneyimi nedeniyle GPU'lar, yapay zeka araştırmalarını ölçeklendirmek için seri olarak kurulan ilk bilgi işlem donanımı türüydü.

Kaynak: Aorus

GPU'ların başarısında etkili olan bir diğer unsur da, NVIDIA'nın GPU'ları için genel amaçlı bir programlama arayüzü olan CUDA'nın Nvidia tarafından geliştirilmesiydi. Bu, oyun dışında başka kullanımların da önünü açtı. Bunun nedeni, bazı araştırmacıların hesaplamaları yapmak için alışıldık süper bilgisayarlar yerine GPU'ları kullanıyor olmasıydı.

“Araştırmacılar GeForce adlı oyun kartını satın alarak bilgisayarınıza bağladığınızda, aslında kişisel bir süper bilgisayara sahip olduğunuzu fark ettiler.

Moleküler dinamik, sismik işleme, BT rekonstrüksiyonu, görüntü işleme - bir sürü farklı şey."

Jensen Huang, Sequoia ile yaptığı röportajda

Günümüzde GPU'lar hala en çok aranan yapay zeka donanımı türleri arasında yer alıyor ve Nvidia, gigawatt ölçeğinde yapay zeka veri merkezleri inşa eden teknoloji devlerinin talebini karşılayacak kadarını üretmeyi bile başaramıyor.

Ayrıca Nvidia'nın yakın zamanda piyasaya sürdüğü "süper GPU çağı"nın da başlangıcıdır. GB200 NVL72.

Bu donanım, birçok küçük GPU'yu birbirine bağlamak yerine, fabrikadan çıktığı anda tek bir büyük GPU gibi çalışacak şekilde tasarlanmıştır. Bu da onu, daha önce rekor kıran H100 modelinden bile çok daha güçlü kılıyor.

Kaynak: Nvidia

Bu aynı zamanda çok daha fazla enerji verimliliği sağlamalı; bu, yapay zeka veri merkezlerinin inşa hızı göz önüne alındığında, yapay zeka sektörünün çip sıkıntısı çekmeden önce enerji sıkıntısı çekmesi ihtimali nedeniyle kritik bir nokta. Daha fazla bilgi işlem ve enerji verimliliği, daha az atık ısı anlamına geliyor ve bu da aşırı ısınma sorununu geçici olarak çözüyor.

ASIC'lerin ve Yapay Zeka Donanımının Yükselişi

Uygulamaya Özel Entegre Devreler (ASIC'ler), belirli bir hesaplama görevi için özel olarak tasarlanmış, bunları nispeten genelci GPU'lardan bile daha uzmanlaşmış hale getiren hesaplama donanımlarıdır.

Bu yüzden genel amaçlı donanımlara göre daha az esnek ve programlanabilirdirler.

Genellikle daha karmaşıktırlar. Ayrıca, hem üretimlerinde ölçek ekonomisi sağlanamaması hem de özel tasarımların maliyeti nedeniyle genellikle daha maliyetlidirler.

Ancak, verilen görevde çok daha verimlidirler, normalde çok daha az israf edilen bilgi işlem gücü ve enerjisiyle daha hızlı çıktı üretirler.

ASIC'ler ve diğer yapay zekaya özgü donanımların kullanımı artıyor, çünkü alan giderek bazı hesaplamaların GPU'larda ideal olarak yapılmadığını ve daha özel ekipmanlar gerektirdiğini fark ediyor.

Tensör İşleme Birimleri (TPU'lar)

TPU'lar Google tarafından geliştirildi (GOOGL -1.44%) Özellikle tensör hesaplamaları yapmak için (transformatör tabanlı hesaplamalarla bağlantılı) tasarlanmıştır. Yüksek verimli, düşük hassasiyetli aritmetik için optimize edilmiştir.

Kaynak: C#Köşesi

Bu, TPU'lara büyük sinir ağlarının eğitimi için yüksek performans, verimlilik ve ölçeklenebilirlik kazandırır.

TPU'lar, yapay zeka eğitimini ve çıkarımını hızlandırmak için onları ideal kılan matris çarpım birimi (MXU) ve tescilli ara bağlantı topolojisi gibi özel özelliklere sahiptir.

TPU'lar, Gemini'yi ve Arama, Fotoğraflar ve Haritalar gibi 1 milyardan fazla kullanıcıya hizmet veren Google'ın tüm yapay zeka destekli uygulamalarını destekliyor.

Bu donanım türü, başlangıçta istatistiklere ve çok sayıda hesaplamaya büyük ölçüde bağımlı olan sinir ağlarında, ara sıra oluşan hataların daha az önemli olduğu sinir ağlarının geliştirilmesini ve çalışmasını önemli ölçüde hızlandırabilir.

Son kullanıcı görevleri arasında TPU'lar için en uygun olanlar derin öğrenme, konuşma tanıma ve görüntü sınıflandırmasıdır.

Sinir Ağı İşlemcileri (NNP'ler):

Sinir İşleme Birimleri (NPU'lar) ile de bağlantılı olan ve nöromorfik çipler olarak adlandırılan NPP'ler, insan beynindeki sinir bağlantılarını taklit etmek üzere tasarlanmış, sinir ağı hesaplamalarında uzmanlaşmıştır. Bazen yapay zeka hızlandırıcı olarak da adlandırılırlar, ancak bu terim daha az tanımlanmıştır.

Bir NPU, depolama ve hesaplamayı sinaptik ağırlıklar aracılığıyla entegre edecektir. Böylece zaman içinde ayarlanabilir veya "öğrenebilir" ve bu da operasyonel verimliliğin artmasına yol açar.

Bir NPU, çarpma ve toplama, aktivasyon fonksiyonları, 2 boyutlu veri işlemleri ve sıkıştırmayı açma için özel modüller içerir.

Özel çarpma ve toplama modülü, matris çarpımı ve toplama, evrişim, nokta çarpımı ve diğer fonksiyonların hesaplanması gibi sinir ağı uygulamalarının işlenmesiyle ilgili işlemleri gerçekleştirmek için kullanılır.

Uzmanlaşma, bir NPU'nun genel bir donanımla binlerce işlem yapmak yerine tek bir hesaplamayla bir işlemi tamamlamasına yardımcı olabilir. Örneğin, IBM, NPU'nun GPU'lara kıyasla yapay zeka hesaplamalarının verimliliğini önemli ölçüde artırabileceğini iddia ediyor.

"Testler, aynı güç tüketimiyle bazı NPU'ların performansının karşılaştırılabilir bir GPU'dan 100 kat daha iyi olduğunu gösterdi."

Bu enerji verimliliği nedeniyle, NPU'lar, üretici firmalar tarafından kullanıcı cihazlarına kurularak popüler hale getiriliyor ve burada yerel olarak üretken yapay zeka uygulamaları için görevlerin gerçekleştirilmesine yardımcı olabiliyor; bu da "uç bilişim"in bir örneği. (Bu konu hakkında daha fazla bilgi için aşağıya bakın).

Nöromorfik çiplerin nasıl oluşturulacağına dair şu anda pek çok yöntem araştırılıyor:

• Başlangıç ​​aşamasındaki ferroelektriği kullanın, hala tam olarak anlaşılamamış bir olgudur.
• Vanadyum veya titanyum kullanılarak aktif substrat.
• Memristör kullanımı, yeni bir tür elektronik bileşendir, 1/800'de AI görevlerini gerçekleştirin^thnormal güç tüketiminin.

Ayardımcı Processing Usirke (XPU'lar)

XPU, CPU (işlemci), GPU (grafik kartı/paralel işlemciler) ve belleği aynı elektronik aygıtta birleştirir.

Kaynak: Broadcom

XPU'lar, tüm donanımı kendi kendine yeten birimlere getirme konseptinin birçok çeşidini kapsayan geniş bir terimdir; bunlara şunlar dahildir: Veri İşleme Birimleri (DPU'lar), Altyapı İşlem Birimleri (IPU'lar), ve Fonksiyon Hızlandırıcı Kartlar (FAC'ler).

XPU'ların, yapay zeka veri merkezlerinin giderek artan bir sorununu çözeceği düşünülüyor. Bu sorun, alt birimler arasındaki bağlantı ihtiyacının artması ve veri gecikmesinin, mevcut işlem gücünden daha fazla, işlem hızını yavaşlatan önemli bir faktör haline gelmesidir.

Esasında çipler (GPU'lar, TPU'lar, NPP'ler, vb.) çalıştıkları kadar verileri de bekliyorlar.

Bu teknolojinin liderlerinden biri Broadcom'dur (AVGO -1.72%), Hangi Ayrıntılı olarak özel bir yatırım raporunda tartıştık.

Alan Programlanabilir Kapı Dizileri (FPGA'lar):

FPGA'lar programlanabilir işlemcilerdir ve bu da onları daha katı ASIC'lere kıyasla önemli ölçüde daha esnek ve yeniden yapılandırılabilir kılar. FPGA'lar, belirli yapay zeka algoritmalarına göre özelleştirilebilir ve potansiyel olarak daha yüksek performans ve enerji verimliliği sunar.

Kaynak: Mikrodenetleyici Laboratuvarları

Esnekliğin bir bedeli vardır, çünkü FPGA'lar genellikle daha karmaşık, pahalıdır ve daha fazla elektrik tüketir. Ancak yine de genel donanımlardan daha verimli olabilirler.

Bu, onları esnekliklerinin dezavantajlarını telafi ettiği bir niş ürün haline getirir. Örneğin, makine öğrenimi, bilgisayarlı görme ve doğal dil işleme, FPGA'ların çok yönlülüğünden faydalanabilir.

Yüksek Bant Genişliğine Sahip Bellek (HBM):

Yapay zeka merkezli özel donanımlardaki en önemli gelişmeler, uzun süredir yeni yapay zekaları eğitmek için daha fazla bilgi işlem kapasitesi oluşturmanın darboğazı olan bilgi işlem gücü alanında olmuştur.

Ancak bu sistemlerin yüksek verimli destek sistemlerine de ihtiyacı var ve bellek de bunlardan önemli bir tanesi. HBM, adından da anlaşılacağı gibi, geleneksel DRAM'den daha yüksek bant genişliği sağlıyor.

Bu, birden fazla DRAM kalıbının dikey olarak üst üste yerleştirilmesi ve bunların silikon geçişli geçişler (TSV'ler) ile birbirine bağlanmasıyla elde edilir. İlk nesil HBM, 2013 yılında geliştirilmiştir.

Dikey istifleme, yerden tasarruf sağlar ve verilerin kat etmesi gereken fiziksel mesafeyi azaltarak, yapay zeka bilişiminde olmazsa olmaz olan veri transferini hızlandırır.

HBM'lerin üretimi DRAM'den daha karmaşık ve daha pahalıdır, ancak performans ve güç verimliliği avantajları genellikle yapay zeka uygulamaları için daha yüksek maliyeti haklı çıkarır.

Yapay Zeka Veri Merkezi Altyapısı: Güç, Soğutma ve Bağlantı

Yapay zeka veri merkezlerinin bellek ve işlem gücünün yanı sıra, yardımcı sistemleri de önemlidir. Bunlar olmadan veriler yeterince hızlı dolaşamaz, çipler aşırı ısınır veya mevcut güç yetersiz kalır.

Bu, örneğin Broadcom bağlantı donanımının da yapay zeka veri merkezi kurulumundan büyük ölçüde yararlandığı anlamına gelir; aynı şekilde, Vertiv gibi soğutma ekipmanı tedarikçileri gibi özel çözümler de yararlanır. (VRT -2.75%) veya Schneider Electric (SU.PA).

Güç kaynağı da bir sorun haline gelebilir ve birçok teknoloji devi nükleer enerjiye yatırım yaparak bu sorunu çözmeye çalışıyor. Microsoft'un 2024'teki ilk hamlesiyle, daha sonra pek çokları tarafından takip edildi.

Teknoloji şirketlerinin yapay zekanın karbon ayak izini düşürme taahhüdüyle birleştiğinde, bunun nükleer veya yenilenebilir enerji sektöründeki şirketlere büyük fayda sağlaması bekleniyor. minyatür (CCJ -2.67%), GE Vernova (GEV -0.57%), First Solar (FLR + 5.29%), SonrakiDönem (HAYIR -0.92%)ya da Brookfield Enerji Ortakları (BEP uzantısı -6.24%) (Her şirkete ait rapor için bağlantıları takip edin).

Ortaya Çıkan Yapay Zeka Bilişim Teknolojileri

Kuantum bilgisayar

Yapay zekanın hesaplama gücüne olan açlığı nedeniyle, bu alandaki donanımların geleceğinin şu anda mevcut olan silikon çözümleriyle aynı seviyede olmaması mümkün.

Bir olasılık, kuantum hesaplamanın, klasik hesaplamanın yapabileceğinden çok daha verimli bir şekilde desenleri tespit etmek için kullanılabilmesidir. araştırmacılar tarafından zaten keşfedilmiş bir şey.

Kuantum bilişim, bir bütün olarak, ikili hesaplamayla neredeyse imkansız olan bazı özel hesaplamaları çözmek için kullanılabilir. Bu muhtemelen nihayetinde yapay zekâya uygulanacaktır, ancak ilk ticari kuantum bilgisayarları henüz birkaç yıl, büyük bir kuantum ağı ise daha da uzaktadır.

fotonik

Veriyi taşımak için elektronlar yerine ışık kullanan fotonik, elektronik cihazlardan çok daha hızlı olabilir.

Kuantum bilgisayarları genellikle dolanık fotonlar içeren kuantum verileri taşıdığından, kuantum hesaplama ile fotonik arasında çok fazla örtüşme vardır ve ilk çift kuantum-fotonik çip zaten duyuruldu.

Organoidler

Yapay zekaların çoğu bilgisayarlarda beynin sinir ağlarının işleyişini taklit ettiğinden, bazı araştırmacılar bunun yerine gerçek beyin hücrelerini kullanıp kullanamayacağımızı merak ediyor.

Bu ilgi çekici bir fikir, özellikle de Bazı araştırmalar beynin aslında organik bir kuantum bilgisayarı olduğunu gösterebilir.

Bu tür "bilgisayarlara" organoid denir ve esasen laboratuvar ortamında bir bilgisayar çipi üzerinde yetiştirilen nöronlardan oluşur. Nöronlar daha sonra çip uyarısına yanıt olarak dendritlerini ve bağlantılarını kendi kendine düzenler.

Bu teknoloji hala yenidir ve biyo-3D baskı.

Diğer

"Silikon bilişimine diğer alternatifleri araştırdık"En İyi 10 Silikon Dışı Bilgi İşlem Şirketi”, vanadyum dioksit, grafen, redoks kapılama veya organik malzemeler gibi.

Her biri, klasik silikon tabanlı bilgi işlemden çok daha hızlı veya çok daha az enerji tüketen olma vaadinde bulunuyor. Ancak, hala nispeten yeniler ve en azından önümüzdeki 5-10 yıl boyunca yapay zeka alanında ticari ölçekte devrim yaratmaları pek olası değil.

Bulut Yapay Zeka ve Uç Yapay Zeka: Erişilebilirlik Trendleri

Bulut AI

En güçlü yapay zeka sistemleri büyük teknoloji şirketleri tarafından üretildiğinden, bunlara çoğunlukla bulut üzerinden erişilebiliyor. Aynı durum, yapay zekaya özel donanımlara erişim için de geçerli hale geliyor.

Bu eğilimin lideri Çekirdek dokuma (CRCW -12.5%)GPU'ları kullanarak bulut sağlayıcılığından kripto para madenciliğine geçen ve bugün talep üzerine yapay zeka hesaplaması sağlayan bir şirket.

Bu, CoreWeave'i teknoloji devleriyle rekabet etmeye çalışan gelecek vadeden yapay zeka girişimlerinin önemli bir ortağı haline getirdi. bükülme AI ve onun 1.3 milyar dolarlık GPU kümesi, yeni bir finansman turuyla finanse edildi.

“İki ay önce var olmayan bir şirket, şu anda 500 milyon dolarlık risk sermayesi fonuna sahip olabilir.

Ve onlar için en önemli şey, bilişime güvenli erişim sağlamaktır; bunu elde edene kadar ürünlerini veya işlerini piyasaya süremezler."

Brian Venturo – CoreWeave CTO

Yapay zeka donanımındaki saf oyuncu, büyük teknoloji şirketlerinin kendi GPU'larını, TPU'larını, XPU'larını vb. üretmesi ve müşteriden rakibe dönüşmesi konusunda temkinli davrandıkça, CoreWeave gibi şirketlerin Nvidia ve diğerlerinin en son donanım sürümüne öncelikli erişim elde etmesi muhtemeldir.

Bu iş modeli, halihazırda eğitilmiş yapay zekaları kullanmaktan çok daha fazla bilgi işlem kapasitesi gerektiren yapay zeka eğitimi için muhtemelen özellikle önemli olacaktır.

Edge Computing ve AI Bilgisayarları

Hızla gelişen yapay zeka bilişiminin bir diğer örneği de yapay zeka sistemlerinin bilişiminin gerçek yaşam koşullarına mümkün olduğunca yakın bir şekilde yerinde yapılması gerekliliğidir.

Bağlantı koptuğunda veya bulutla ileri geri iletişimin gecikmesi çok yavaş olduğunda yapay zekadan ayrılmaya tahammül edemeyen sistemler için bu bir zorunluluktur.

Çevrelerini çevrimdışı olarak anlamaları beklenen otonom araçlar buna iyi bir örnektir.

Bu tür hesaplamalara uç bilişim adı veriliyor ve daha verimli ve daha az güç tüketen donanımlardan büyük ölçüde faydalanılıyor.

Yapay zekanın güvenilirliğini artırabilir ve DeepSeek'in ileri sıçramasıyla gösterildiği gibi modeller daha verimli hale geldikçe, gelecekte yapay zeka dağıtımının daha yaygın bir modeli haline gelebilir.

Aynı sebepten ötürü, yapay zekalı bilgisayarlar Nvidia'nın yakın zamanda piyasaya sürdüğü gibiUzun vadede, birçok yapay zeka uygulamasını yerel olarak çalıştırmak için yeterli olabilir ve bu da her zaman buluta bağlı yapay zekalara kıyasla gizliliği ve güvenliği artırabilir.

Sonuç

Yapay zeka donanımı, bir süredir GPU'larla eş anlamlıydı çünkü grafik kartları, yapay zeka eğitiminde CPU'lar gibi diğer donanım türlerinden çok daha verimliydi. Bu durum, Nvidia'nın ve ilk hissedarlarının çoğunun servetini oluşturdu.

GPU'lar, özellikle de yapay zeka odaklı "süper GPU'lar", yapay zeka veri merkezlerinin inşasında önemli olmaya devam edecek gibi görünüyor. Ancak giderek daha karmaşık ve uzmanlaşmış sistemlerin bileşenlerinden yalnızca biri haline gelecekler.

Transformatör işlemleri TPU'lara, sinir ağları NPP'lere, tekrarlanan görevler özel ASIC'lere veya yeniden yapılandırılmış FPGA'lara gönderilecek.

Bu arada, yüksek bant genişliğine sahip bellek, gelişmiş telekomünikasyon konnektörleri ve ultra verimli soğutma, bilgi işlem çekirdeği etrafındaki tüm yardımcı işlevlerin çalışmasını sağlayacak.

Uç bilişim ve devasa LLM'lerden daha küçük yapay zekalar için, hepsi bir arada XPU'lar tarafından desteklenen yerel bilişim, muhtemelen bilim insanları, otonom arabalar ve gizlilik veya sansür konusunda endişe duyan kullanıcılar tarafından, potansiyel olarak açık kaynaklı yapay zeka modelleriyle kullanılacaktır.

Kesin olan şu ki, yapay zeka altın hücumu sırasında yapay zeka donanımlarının "kazma ve kürek" satışından elde edilen kârlar henüz bitmedi.

Nvidia'nın hakimiyetindeki bir dönemin ardından yatırımcılar, yapay zeka donanım portföylerini diğer tasarımlara ve hatta dünyadaki giderek büyüyen ve sayısı artan yapay zeka veri merkezlerini çalıştırmak için gereken değerli gigavatları sağlayacak olan enerji dağıtım şirketlerine yayarak riskleri çeşitlendirmek isteyebilirler.