Amazons chip-labb i Austin, Texas, producerar en ständig ström av innovationer. En ny serverdesign testades av en grupp hängivna ingenjörer den 26 juli.
Under ett besök på anläggningen i Austin berättade Rami Sinno, chef för Amazon, om serverns användning av Amazons AI-chip. Denna utveckling är ett djärvt steg mot att konkurrera med Nvidia, den nuvarande ledaren inom området.
Det främsta skälet till att Amazon utvecklar sin egen processor är detta: de vill inte förlita sig på Nvidia och köpa företagets chips. De dyra Nvidia-chipen driver en stor del av AI-molnverksamheten på Amazon Web Services. Denna verksamhet är företagets mest betydande tillväxtmotor. Den så kallade ”Nvidia-skatten” fick alltså företaget att leta efter ett billigare alternativ.
Amazons chiputvecklingsprogram har ett dubbelt syfte. För det första är projektet tänkt att ge kunderna billigare möjligheter till komplexa beräkningar och bearbetning av stora datavolymer. För det andra utvecklades initiativet för att bevara Amazons konkurrenskraft i den volatila branschen för molntjänster och AI. Detta steg stöddes också av anvisningarna från teknikjättar som Microsoft och Alphabet, som utvecklar skräddarsydda chips för att behålla sitt ledarskap på marknaden.
Rami Sinno, teknisk chef för Amazons Annapurna Labs, en viktig del av AWS-ekosystemet, betonade att kundernas efterfrågan på mer ekonomiska lösningar till Nvidias produkter ökar. Förvärvet av Annapurna Labs 2015 var ett smart drag av Amazon eftersom det gjorde det möjligt för företaget att lägga grunden för att börja utveckla populära chip.
Även om Amazons chip för AI är i sin linda har företaget tillverkat och förfinat chip för andra vanliga tillämpningar i nästan ett decennium, framför allt sitt universella chip Graviton, som nu är inne på sin fjärde generation. Amazon har meddelat att deras Trainium- och Inferentia-chip, företagets senaste och starkaste, fortfarande befinner sig i sin linda och är specialdesignade processorer.
Effekten är potentiellt enorm eftersom den imponerande prestandan understryker rapporterna från David Brown, vice president of compute and networking på AWS. I det här ljuset bör det erkännas att Amazons egna chip kan ge upp till 40-50% bättre pris-prestanda-förhållande jämfört med Nvidia-baserade lösningar. Denna potentiella förbättring kan i sin tur innebära betydande besparingar för AWS-kunder som använder sina AI-arbetsbelastningar.
AWS betydelse för Amazons totala verksamhet kan inte underskattas. Under det första kvartalet i år stod AWS för en knapp femtedel av Amazons totala intäkter, då försäljningen ökade med 17 procent jämfört med föregående år och uppgick till 25 miljarder dollar. För närvarande har AWS cirka en tredjedel av den globala cloud computing-marknaden och Microsofts Azure täcker cirka en fjärdedel, eller 25%.
Amazons engagemang i sin strategi för kundanpassade chip demonstrerades under den senaste Prime Day, ett tvådagars försäljningsevent på Amazon.com. För att hantera den mycket höga nivån av shopping samt streaming av video, musik och annat innehåll, distribuerade Amazon imponerande 250 000 Graviton-chip och 80 000 av sina anpassade AI-chip över sina plattformar. Adobe Analytics meddelade rekordresultat för Prime Day med en försäljning på 14,2 miljarder dollar.
Det verkar som att när Amazon intensifierar sitt arbete med utvecklingen av AI-chip kommer branschledaren Nvidia inte att ligga kvar på samma nivå. Nvidias VD, Jensen Huang, har presenterat Nvidias senaste Blackwell-chipsom är planerade att släppas senare i år. Deras prestanda har ökat betydligt, och Huang lovade att de nya chipen är dubbelt så kraftfulla för träning av AI-modeller och fem gånger snabbare för inferens.
Nvidias dominerande ställning på marknaden för AI-chip understryks av dess imponerande kundlista, som inkluderar teknikjättar som Amazon, Google, Microsoft, OpenAI och Meta. Företagets fokus på AI har drivit upp dess marknadsvärde till häpnadsväckande 2 biljoner dollar, vilket gör det till det tredje mest värdefulla företaget globalt, efter Microsoft och Apple.
I takt med att tävlingen om AI-chip intensifieras diversifierar Nvidia också sina erbjudanden. Företaget har introducerat nya mjukvaruverktyg för att underlätta AI-integration i olika branscher och utvecklar specialiserade chip för nya applikationer som chatbots i bilar och humanoida robotar.
(Bild från Gerd Altmann)
Se även: Nvidia: Världens mest värdefulla företag under fransk antitrustbrand
Vill du lära dig mer om AI och big data från branschledare? Kolla in AI & Big Data Expo som äger rum i Amsterdam, Kalifornien och London. Det omfattande evenemanget är samlokaliserat med andra ledande evenemang, bland annat Konferens om intelligent automation, BlockX, Veckan för digital omvandling, och Cybersäkerhet & Cloud Expo.
Utforska andra kommande evenemang och webbseminarier om företagsteknik som drivs av TechForge här.
