Guider, benchmarks & buildloggar
Raka svar om privat AI, lokala modeller och mjukvaruutveckling, skrivna av personerna som bygger det.
Bibliotek
Utvalda guider och benchmarks som hålls uppdaterade.RTX 3090 LLM-benchmark: 70B på 48 GB och 32 samtidiga användare
Lokala LLM-benchmark på två RTX 3090 med CRUCIBLE. 19–145 tokens/s för en användare, 2 460 tokens/s för 32 samtidigt, plus citerade svar från egna dokument.
Läs artikeln →Lokal AI-server för företag: vad krävs egentligen?
En användbar lokal AI-server börjar på ett 24 GB GPU och 64 GB RAM, från ungefär 5 000 euro. Hårdvara, GPU-generationer, mjukvara, verkliga kostnader och när molnet vinner.
Läs artikeln →Kan vi använda ChatGPT enligt GDPR?
Ja, ofta, med rätt avtal på plats. Men inte gratisversionen och inte för all data. Här är hur du drar gränsen för ditt företag.
Läs artikeln →Flöde
Buildloggar och nyheter, senaste först.Athlas är nu medlem i NVIDIA Inception
Athlas har antagits till NVIDIA Inception, programmet för AI-startups. Vad medlemskapet ger Blackbox-kunder och vad som inte förändras: modellerna körs hos dig.
Vill du ha hjälp med detta på riktigt?
Athlas bygger skräddarsydd mjukvara, AI-lösningar och digital marknadsföring för ambitiösa team. Hör av dig så ger vi ett rakt svar på om vi kan hjälpa er. Svar inom 24 timmar.