AI Lab

Lokale KI im eigenen Betrieb.

Modelle, Hardware und Agenten - im laufenden Einsatz gemessen.

Ich teste Modelle, Hardware und Runtimes unter Unternehmensbedingungen: in produktiven Abläufen, mit echter Last. Hier steht, was funktioniert, was scheitert und was sich in einen laufenden Betrieb übernehmen lässt. Alle Zahlen stammen aus eigenen Messungen.

4
GPU-Systeme im Lab
1
Modelle im Betrieb
3
Benchmark-Läufe
Im Fokus
Models

Modelle im Betrieb

Welche Sprach- und Bildmodelle bei mir laufen, wie sie quantisiert sind und womit sie starten.

Models ansehen
Hardware

Die Maschinen

Was im Rack steht: GPUs, Speicher, Verbund - mit den Messwerten, die zeigen, was jede Maschine leistet.

Hardware ansehen
Inference

Messungen

Serving-Stacks, Durchsatz und Latenz - gemessen an realen Lasten.

Inference ansehen
Aktuelle BeiträgeAlle Beiträge →

Hier erscheinen in Kürze die ersten Beiträge.

Austausch

Du baust auch mit lokaler KI?

Lass uns über Modelle, Hardware und echte Anwendungsfälle sprechen.