Hardware

Was im Rack steht: GPUs, Speicher, Verbund - mit den Messwerten, die zeigen, was jede Maschine leistet.

Die Maschinen
NVIDIA DGX Spark (2× GB10)
GPU
2× GB10
VRAM
2× 128 GB unified
Nodes
2 × ConnectX/RoCE
RTX 3090 Ti Workstation
GPU
RTX 3090 Ti
VRAM
24 GB

LLM-Serving im Dauerbetrieb (llama.cpp / llama-swap)

RTX 4070 Ti Workstation
GPU
RTX 4070 Ti
VRAM
12 GB

Speech-Stack: Echtzeit-STT, TTS und Sprecher-Erkennung

RTX 5070 Workstation
GPU
RTX 5070
VRAM
12 GB

STT-Zweitpass und Vision-Experimente

Hier erscheinen in Kürze die ersten Beiträge zu diesem Bereich.