Molnfria AI-nyheter från den snackande världen
Hittills idag har vår AI-assistent Mai-Britt lyssnat 0,0 timmar på 0 poddar och radioprogram, och vaskat fram 0 AI-relaterade nyheter. All AI-bearbetning har skett med lokal AI, med gratis, klimatsmart solenergi. Bokstavligen Molnfri AI! :)
Just nu skiner solen lite för klent, så AI-lyssnandet är tillfälligt pausat. Men så fort solcellerna producerar överskott igen så rusar nya AI-nyheter in.
för 11 dagar sedan
Nvidia lanserar Rubin-plattform med 10X kostnadsbesparing
Nvidia presenterade plattformen Rubin, som lovar vara fem gånger kraftfullare än Blackwell. Det mest revolutionerande är det påstådda minskandet av tokenkostnaden för inferens med cirka 10X. Detta skulle dramatiskt sänka kostnaderna för stora AI-arbetsbelastningar och göra dem överkomliga i massiv skala.
Alibaba släpper ny MoE-modell FlashNext
Alibaba har lanserat sin nya modell, 9.3.8 FlashNext, som använder en Mixture of Experts (MoE) konfiguration med 125 miljarder parametrar men endast aktiverar 6 miljarder. Den uppnår benchmarkresultat som överträffar Claude Opus 4 och är särskilt effektiv i sin beräkning.
AI-agenter läcker data i takt med snabbare kapacitet
En ny studie varnar för att populära AI-agenter har blivit fångade i att läcka privat data. Detta ökar brådskan kring integritetsfrågorna när antagandet accelererar. Dessutom föreslås gradvis autonomi för agenter, och Sandbox AQ släppte verktyget SWITCH för enklare integration mellan olika chattplattformar.
NVIDIA integrerar Groq LPU för att lösa flaskhalsar
NVIDIA planerar att integrera Groqs LPU-chip i sina Melara-verktyg. Detta är ett försök att hantera dekodkedjan, som traditionellt varit en svår flaskhals för GPU:er. Om integrationen lyckas kan det ge AI-infrastrukturen en ny öppning bortom bara GPU:er.
AI löser distributionsproblem och skapar nya marknader
Experterna diskuterar hur AI inte bara löser efterfrågeproblemet utan också distribueringsproblemet. Detta gör att företag kan höja kapitalet enormt, vilket sätter dem i konkurrens med jättingar som Microsoft. Denna utveckling driver den meteoriska tillväxten av nya AI-företag.
Amazon Bedrock:s datahantering i Japan lyfter frågor om dataläckage
Även om Amazon Bedrock garanterar lokal databehandling i Tokyo, påpekar redaktören risken för dataläckage när globala tjänster krävs. För branscher med strikta regelverk är det därför kritiskt att välja modeller som specifikt kan garantera lagring inom Japan.