Mens vi alle sammen går og venter på den næste store sprogmodel, foregår den sande krig et helt andet sted: Nede i selve hardwaren. På deres årlige Cloud Next-konference har Google netop trukket tæppet af deres nyeste våben i kampen om serverrummene, og specifikationerne er voldsomme.

Der er tale om deres 8. generations Google AI-chip – de såkaldte Tensor Processing Units (TPU) – der er specialbygget til at drive verdens største supercomputere.

To versioner: Træning og interaktion

Google har valgt at dele deres nye hardware op i to specifikke versioner for at maksimere effektiviteten:

• TPU 8t (til træning): Denne chip er et regulært monster, når det kommer til at fodre de store AI-modeller med data. Ifølge Google reducerer den udviklingstiden for de største modeller fra måneder til uger. Det er et kvantespring for udviklere, der indtil nu har måttet vente enormt længe på, at deres modeller blev “kloge nok”.
• TPU 8i (til interaktion): Dette er motoren bag den AI, vi forbrugere rent faktisk mærker. Den har fået tre gange mere hukommelse direkte på chippen sammenlignet med forgængeren. Resultatet? Lynhurtige svar og ingen ventetid, når du beder en AI-agent om at løse en kompleks opgave.

Samlet set siger Google, at den nye generation leverer en 80 procent bedre performance-per-dollar. Samtidig er den dobbelt så energieffektiv, hvilket er en afgørende faktor, da AI-datacentre lige nu sluger strøm i et skræmmende tempo. De nye chips bliver tilgængelige for virksomheder senere i år.

Farvel til chatbots, goddag til agenter

Udover den rå hardware, brugte Google også Cloud Next-konferencen til at markere et vigtigt skifte i softwaren. Vi er på vej ind i den “agentiske æra”.

Google lancerede en helt ny alt-i-én-platform, hvor virksomheder kan bygge, styre og optimere autonome AI-agenter. Det er ikke længere bare simple chatbots, der svarer på spørgsmål. Det er agenter, der kan ræsonnere, handle og skabe resultater på egen hånd. Og i et ret usædvanligt træk har Google åbnet platformen op, så den ikke kun kører deres egne modeller, men også understøtter eksterne konkurrenter som for eksempel Claude.

Tallene taler for sig selv: AI er ikke længere bare et sjovt eksperiment for nørderne. Næsten 75 procent af Google Clouds kunder bruger i dag AI-værktøjer til at skabe direkte værdi i deres forretning. Kapløbet er for alvor i gang, og med den nye 8. generations hardware har Google lige lagt sig solidt i overhalingsbanen.

Googles AI Gemini, skal være den nye hjerne bag Apples Siri. Læs om det her.

Indlægget Google trækker fra: Ny 8. generations AI-chip smadrer forgængeren blev først udgivet på TECHSEN.