Eine AI Foundation bauen, nicht nur darüber reden
Ich begleite Organisationen dabei, eine hochmodulare KI-Plattform zu entwerfen und zu bauen – von der Strategie über verteilte Services, Dokument-Pipelines und GPU-Inference bis zur Anwendung, mit Governance als integriertem Bestandteil.
Direkter Austausch
mathias@rhein.io – bevorzugter Kanal für Projektskizzen, Architektur-Reviews und Engineering-Diskussionen.
Aktuelle Einblicke, Referenzen und Netzwerkpflege rund um AI-Engineering und Foundation-Bau.
Fokusbereiche
Foundation-Bau & verteilte Systeme
Hochmodulare AI-Plattformen – Rust-Services, Kubernetes-Infrastruktur, in-house Model-Serving mit EU-Souveränität über Drittanbieter-Modelle (Claude via Bedrock, ZDR, eigene Policy-Schicht) und vertrauliche Ausführungsumgebungen.
Dokument-Pipelines & verifizierte AI
Spezialisierte Pipelines mit docling, VLMs und hybriden GenAI-+-Solver-Engines, die jede Zahl mathematisch beweisen – klassische RPA, nachgewiesen korrekt statt silent halluciniert.
Agentic Enterprise AI
Vollständige Produkt-Hierarchie in Rust: host-freies Agent-SDK, Wire-Protokoll, CLI/TUI, Desktop-App, Web-Head und Worker – eine UI, mehrere Heads. Native Tools statt Shell-Outs (LSP, Ripgrep, Tree-Sitter-Code-Graph, Office-Generierung, Boa-Code-Modus), benannte Sub-Agents mit Category-Routing, Team-Modus mit Peer-Mailbox und vertrauliche, skalierte Cluster-Ausführung – von RTX Pro 6000 Blackwell Server Edition bis B300.
GPU-Inference & Custom Kernel
Triton-Kernel, NVFP4-Quantisierung, KV-Cache-Reuse und GPU-residentes Token-Streaming zwischen Modellen.
Klinische AI-Anwendungen
SvelteKit-BFFs, OIDC, kompilierte Extraktions-Prompts, Physician-Review-Gates und Selbstlernen aus Arzt-Korrekturen.
Responsible AI & Governance
Operationalisierung von EU AI Act, DSGVO, MDR – Human-in-the-Loop, Bias-Monitoring und Supply-Chain-Sicherheit als Code.
Antwortzeiten & Verfügbarkeit
Nachrichten werden in der Regel innerhalb von zwei Werktagen beantwortet. Für vertrauliche Dossiers kann ein verschlüsselter Kommunikationskanal (z. B. S/MIME oder Matrix) vereinbart werden.