Souveräne KI: Warum Open-Source-Infrastruktur der Schlüssel zur digitalen Unabhängigkeit ist

Ein Rückblick auf den Vortrag von Christoph Streit (ScaleUp Technologies) beim SCS Summit 2026 von Lisa Seifert

Die KI-Revolution findet zu einem erheblichen Teil in Black Boxes statt – auf den Servern amerikanischer Hyperscaler, hinter proprietären APIs, unter Gerichtsbarkeiten, die europäischen Datenschutzstandards fundamental widersprechen. Beim SCS Summit im Mai 2026 hat Christoph Streit, CEO von ScaleUp Technologies, eindrücklich gezeigt, dass es einen anderen Weg gibt. Einen, der keine Kompromisse zwischen Leistungsfähigkeit und digitaler Souveränität erfordert.

Wer steckt dahinter?

ScaleUp Technologies ist kein junges Startup, das auf einer Welle reitet. Christoph Streit hat das Unternehmen Ende der 1990er Jahre gemeinsam mit seinem besten Schulfreund in Hamburg gegründet – damals noch mit ein bisschen Windows, aber spätestens seit Anfang der 2000er mit einem klaren Fokus auf Open Source. Heute betreibt ScaleUp als Managed Hosting, Cloud- und Colocation-Anbieter OpenStack-basierte Cloudinfrastrukturen inklusive Managed Kubernetes, mit Teams in Hamburg, Berlin und Nürnberg.

Seit 2020 kommt noch das Thema „Nachhaltige Digitalisierung“ hinzu – und seit einiger Zeit auch das Open Compute Project (OCP), bei dem ScaleUp als Lösungsanbieter aktiv ist. Genau darum dreht sich ein zentraler Teil des Vortrags.

Das Problem: Dieselbe Falle, nur tiefer

Die Abhängigkeit von US-amerikanischen Hyperscalern und Big-Tech-Unternehmen ist für die meisten im SCS-Umfeld keine neue Erkenntnis. Proprietäre APIs, intransparente Software-Stacks, der US Cloud Act als rechtliches Damoklesschwert – das ist bekannt.

Aber bei KI, so Streit, verschärft sich das Problem erheblich. Mit einem Large Language Model teilt man nicht einfach Rechenlast – man teilt Daten. Und zwar möglicherweise sehr sensible. Streit bringt es auf den Punkt: Ein Mitarbeiter, der dem Chatbot eine Frage stellt, könnte dabei unbeabsichtigt ein Passwort verraten oder vertrauliche Geschäftsinformationen preisgeben. Bei einem externen Anbieter ist das kaum zu kontrollieren.

Die Souveränitätslücke bei KI ist daher aus seiner Sicht noch gravierender als im allgemeinen Cloud-Bereich.

Die Grundlage: Offenheit bis zur Firmware

Streit beginnt seinen Lösungsvorschlag an einem Ort, den viele überraschend finden: der Hardware. Und er macht dabei auf ein Problem aufmerksam, das in der Debatte oft übersehen wird.

„Eins der größten Probleme heutzutage ist ja nicht irgendwie die Betriebssystemebene oder die Hypervisor-Ebene oder die Cloud-Stack-Ebene, sondern tatsächlich die Firmware, die auf allen Servern dieser Welt läuft. Das ist halt noch zu 99 Prozent closed source.“

Hier setzt das Open Compute Project (OCP) an – ein Projekt, das ursprünglich aus einer einfachen Erkenntnis von Facebook entstanden ist: So wie Server gebaut werden, ist das total ineffizient. Facebook hat deshalb vor über 15 Jahren nicht einfach intern besser gebaut, sondern seine Ideen und Baupläne mit der Community geteilt und ein Open-Source-Projekt daraus gemacht.

Das Ergebnis: Server ohne Netzteil (die Stromversorgung mittels Gleichstrom läuft zentral über den Schrank), ohne Stromkabel am Gehäuse, mit reduzierten Lüftern, ohne Verkleidung und Logo. Wer schon mal einen konventionellen Serverschrank gesehen hat, begreift die Logik sofort: Statt 80 einzelner Netzteile in einem 40-HE-Schrank braucht man beim OCP-Standard nur noch sechs bis zwölf. Und wer sich ein bisschen mit Netzteil-Effizienz auskennt, weiß, was das bedeutet – der optimale Lastpunkt eines Netzteils wird bei klassischen Servern selten erreicht.

Dazu kommt OpenBMC als offener Firmware-Standard – womit auch die Hardware selbst keine Black Box mehr ist und Hintertüren auf Chip-Ebene ausgeschlossen werden.

Einen weiteren Vorteil, den Streit herausstellt: Alle großen GPU-Infrastrukturen von Nvidia und AMD basieren heute auf OCP-Rack- und Serverinfrastruktur. Das macht OCP nicht nur zum Souveränitäts-, sondern auch zum KI-Standard.

Netzwerk: Disaggregation mit SONiC

Neben der Serverinfrastruktur setzt ScaleUp im Netzwerk auf Disaggregation mit SONiC – dem Open-Source-Betriebssystem für Netzwerk-Switches. Das Modell: Kein proprietärer Switch mehr, bei dem Hardware und Software aus einer Hand kommen müssen, sondern ein offenes Networking-Modell. Ethernet als Standard, Open Source als Betriebssystem.

SCS als Klammer: Von der Hardware bis zur Anwendung

Auf dieser offenen Hardwarebasis setzt ScaleUp den Sovereign Cloud Stack (SCS) mit OpenStack auf. Die Logik: OCP-Hardware wird per OpenStack abstrahiert, darüber liegt SCS als standardisierender Layer, darüber Kubernetes, darüber die KI-Anwendung.

Streit thematisiert ein für die Praxis relevantes Thema: Wenn SCS auch für KI-Workloads genutzt wird, braucht man irgendwann einheitliche GPU-Flavors über Provider hinweg. Die Standardisierung von VM-Flavor-Bezeichnungen ist in SCS etabliert – aber für GPU-basierte Nodes gibt es das noch nicht systematisch. Eine Diskussion, die sich direkt im Anschluss an seinen Vortrag im Q&A fortsetzte: Die technische Grundlage existiert bereits in der Flavor-Spezifikation, aber ob die daraus resultierenden Buchstaben-Zahlen-Kombinationen auch für Marketingabteilungen taugen, ist noch offen.

Gardener: GPU-Cluster auf Knopfdruck

Für das Infrastrukturmanagement setzt ScaleUp auf Gardener als Orchestrierungsebene. Gardener automatisiert das Ausrollen von Kubernetes-Clustern – inklusive GPU-fähiger Worker Nodes für rechenintensive KI-Anwendungen. Auto-Scaling, Self-Healing, einheitliche Abstraktion: Die Komplexität des Betriebs wird weggenommen, ohne die Kontrolle abzugeben.

Das Ziel dabei ist eine standardisierte Infrastruktur, auf der KI-Workloads providerunabhängig ausgerollt werden können – auch das ein Thema, das laut Streit im SCS-Umfeld noch stärker in den Fokus müsste.

Privat gehostete LLMs: Daten bleiben, wo sie hingehören

Der praktisch konkreteste Teil: Open-Source-Modelle auf eigener Infrastruktur betreiben, beispielsweise via vLLM oder KServe. Alle Daten – also sowohl das Modell selbst als auch alle Dokumente, die per RAG eingebunden werden – liegen im eigenen Rechenzentrum, auf lokalem Ceph-basierten S3-Speicher. Optionale End-to-End-Verschlüsselung oder eine vollständig gekapselte private Umgebung runden das Bild ab.

Das Ergebnis: Leistungsfähige KI, ohne dass Daten mit einer dritten Partei geteilt werden müssen.

Fazit

Gerade jetzt, wo KI-Themen die technologische Debatte dominieren und immer mehr Unternehmen und Behörden unter Druck geraten, tut es gut, einen Vortrag wie diesen zu hören. Christoph Streit liefert keine Visionen, sondern Realität: einen durchdachten, heute umsetzbaren Stack, der von der Firmware bis zum Sprachmodell offen und kontrollierbar ist.

Was hängen bleibt: Souveränität ist keine Frage des Entweder-oder. Man muss nicht zwischen leistungsfähiger KI und Datenkontrolle wählen – wenn man die richtigen Bausteine kombiniert. Die Herausforderungen sind real, vor allem was GPU-Verfügbarkeit und Wirtschaftlichkeit betrifft. Aber die technologische Grundlage steht. Das ist eine wichtige Botschaft in einer Zeit, in der viele noch glauben, echte KI-Kompetenz sei ohne Abhängigkeit von den großen amerikanischen Anbietern nicht zu haben.

Den vollständigen Vortrag von Christoph Streit gibt es auf YouTube

Weitere Beiträge: