innFactory AI Consulting aus Rosenheim beobachtet souveräne KI-Projekte für den deutschen Mittelstand genau – als Mitglied im KI Bundesverband, der das SOOFI-Konsortium koordiniert, verfolgen wir Soofi S mit besonderem Interesse. Das Modell adressiert exakt die Souveränitäts- und DSGVO-Anforderungen, mit denen wir Kunden im DACH-Raum täglich arbeiten.
Was ist SOOFI?
SOOFI steht für Sovereign Open Source Foundation Models – ein deutsches Konsortialprojekt zur Entwicklung souveräner, quelloffener KI-Sprachmodelle „made in Germany". Ziel ist eine in Europa trainierte und betriebene KI, die europäische Werte, Transparenz und den EU AI Act („Compliance by Design") von Grund auf berücksichtigt und die Abhängigkeit deutscher Unternehmen von US- und China-Modellen reduziert.
Koordiniert wird das Projekt vom KI Bundesverband (Berlin) und mit rund 20 Mio. EUR vom Bundesministerium für Wirtschaft und Energie (BMWE) im Rahmen des europäischen IPCEI-CIS-Programms gefördert. Trainiert wird auf der Industrial AI Cloud der Deutschen Telekom in München – die souveräne Recheninfrastruktur liefert T-Systems.
Konsortialpartner (Auswahl)
- Fraunhofer IAIS und Fraunhofer IIS – KI-Forschung und Modelltraining
- DFKI – Deutsches Forschungszentrum für Künstliche Intelligenz
- TU Darmstadt, Universität Würzburg, Leibniz Universität Hannover (L3S), Berliner Hochschule für Technik (BHT)
- Die Startups Ellamind und Merantix Momentum
Soofi S: der erste Baustein
Wichtig zur Einordnung: Soofi S ist der erste Baustein einer offenen europäischen Modellfamilie – nicht das finale Zielmodell. Das übergeordnete Projektziel ist ein offenes LLM mit rund 100 Mrd. Parametern als Basis für europäische Unternehmen. Soofi S (30B) ist der erste veröffentlichte Schritt dorthin.
Architektur: Effizienz durch Hybrid-MoE
Soofi S ist ein Mixture-of-Experts-Modell mit ~31,6 Milliarden Gesamt- und nur ~3,2 Milliarden aktiven Parametern pro Token (daher die Bezeichnung „30B-A3B"). Die Rechenkosten liegen damit auf dem Niveau eines 3B-Dense-Modells. Die Architektur ist ein hybrides Mamba-2/Transformer-Design im Stil von NVIDIAs „Nemotron 3 Nano":
- 52 Layer: Mamba-2-Layer, granulare MoE-Layer mit Shared Experts und einige Grouped-Query-Attention-Layer
- 128 geroutete Experten, davon 6 aktiv pro Token
- Nur wenige Layer halten einen KV-Cache – dadurch bleibt der Speicherbedarf bei wachsendem Kontext nahezu konstant
Das Kontextfenster wurde in der letzten Trainingsphase (Long-Context) auf 1 Mio. Token erweitert. Das Paper benennt zugleich offen die Grenzen eines so kompakten Modells: Bei nur ~3 Mrd. aktiven Parametern ist die Kapazität für faktisches Wissen begrenzt – Soofi S ist auf Effizienz und Transparenz optimiert, nicht auf maximale Wissensbreite.
Das Paper zum 30B-Modell
Der Pretraining-Report trägt den Titel „A Sovereign, Open-Source Foundation Model for German and English" (Soofi S Pretraining Report v1.0, arXiv 2607.09424, eingereicht am 10. Juli 2026). Autor ist das rund 30-köpfige Soofi-Team, darunter Senior-Forschende wie Kristian Kersting, Andreas Hotho, Wolfgang Nejdl, Alexander Löser und Joachim Köhler von Fraunhofer IAIS, TU Darmstadt, DFKI und dem Lamarr-Institut.
Die methodischen Kernpunkte:
- Volle Datentransparenz: Per-Quelle-Token-Buchhaltung, sodass sich rund 99 % der Trainingsmischung unabhängig rekonstruieren lassen.
- Bilinguale Tiefe statt breiter Mehrsprachigkeit: Der Deutsch-Anteil wurde gezielt hochgewichtet (von 7,2 % auf 15,32 % in der Annealing-Phase), inklusive einer dedizierten deutschen Evaluations-Suite.
- Bewusste Architektur-Wiederverwendung: Das Nemotron-3-Nano-Design wurde unverändert übernommen, um den Effekt des Daten-Rezepts zu isolieren und die Nutzbarkeit in bestehenden Inferenz-Stacks (z. B. vLLM) sicherzustellen.
- 3-Phasen-Curriculum: Diverse Pretraining-Phase (~20T Token), High-Quality-Annealing (~6,6T Token) und eine Long-Context-Phase.
Trainingsdaten und Compute
Insgesamt wurden rund 27 Billionen Token (26,68T laut Paper) verarbeitet – aus offenen Quellen wie Nemotron-CC, HPLT, German Commons, FineWiki und FinePDFs sowie dem kommerziell lizenzierten Genios-Korpus (193 Mio. Zeitungs- und Fachpresse-Artikel). Trainiert wurde auf bis zu 512 NVIDIA-B200-GPUs (64 DGX-B200-Nodes) über rund 253.000 B200-GPU-Stunden im Zeitraum März bis Mai 2026 – mit 100 % erneuerbarer Energie und Wasserkühlung aus dem Münchner Eisbach.
Benchmarks
Laut Paper ist Soofi S das beste voll-offene Modell auf Deutsch und Englisch (im Vergleich zu Modellen wie Olmo 3, Apertus 70B und EuroLLM):
| Benchmark | Soofi S |
|---|---|
| Deutsch (aggregiert) | 79,1 |
| Englisch (aggregiert) | 70,1 |
| HumanEval (Code) | 73,8 % |
| MBPP-DE (Code) | 84,2 % |
| GSM8K (Mathe) | 86,1 % |
Besonders bemerkenswert ist die Effizienz: Mit nur ~3B aktiven Parametern matcht Soofi S dichte 14–27B-Modelle und ist im Paper-Durchsatzvergleich rund 9× schneller als ein dichtes 14B-Modell – bei nahezu flachem Durchsatz von 4K bis 256K Kontext.
Fair mitzukommunizieren sind die Schwächen: Die deutsche Wettbewerbs-Mathematik fällt gegenüber Top-Open-Weight-Modellen ab, und faktisches Wissen ist bei nur ~3B aktiven Parametern begrenzt. Ein souveränes Modell ist eben nicht automatisch ein Frontier-Modell – kritische Stimmen weisen zu Recht darauf hin, dass „souverän" nicht „überlegen" bedeutet.
Souveränität, Lizenz und Verfügbarkeit
Soofi S wurde vollständig in Deutschland trainiert und veröffentlicht Gewichte, Zwischen-Checkpoints, Trainings- und Evaluationscode sowie ein detailliertes Daten-Inventar – und erfüllt damit die Open Source AI Definition 1.0. Zur Lizenz gibt es aktuell noch keine abschließende Festlegung: Die Quellen nennen unterschiedliche Angaben, und weil rund 1,3 % der Phase-1-Daten (Genios; ~1 % des Gesamtkorpus) kommerziell lizenziert sind, erfüllt das Modell die strengeren europäischen Open-Data-Anforderungen nicht vollständig. Wir formulieren daher bewusst vorsichtig: quelloffen, finale Lizenz noch offen.
Die ersten Gewichte liegen auf Hugging Face (Soofi-Project/Soofi-S-Base). Es gibt bislang keine öffentliche API und keine Preise – das Base-Modell ist ein unaligned Forschungs- und Fine-Tuning-Modell, nicht für den direkten Endnutzer-Einsatz gedacht. Das Konsortium sucht aktuell Industriepartner für die nächste Testphase.
Einordnung für DACH-Unternehmen
Soofi S positioniert sich zwischen den multilingualen EU-Souveränitätsprojekten (OpenEuroLLM, EuroLLM, Teuken) und den internationalen Top-Open-Weight-Modellen. Laut Paper ist es das erste europäische souveräne Modell auf derselben Capability-per-active-Parameter-Grenze wie die stärksten internationalen Open-Weight-Releases – bei voller Transparenz.
Für den produktiven Einsatz heute ist Soofi S allerdings noch Forschungs-/Preview-Stadium und kein einsatzfertiges Produkt. Wer heute eine souveräne, DSGVO-konforme LLM-Strategie braucht, für den bleiben etablierte Optionen der richtige Einstieg:
- Mistral für offene, EU-basierte LLMs mit aktuellem Reifegrad
- Aleph Alpha (Pharia) für deutsche Sprachfokussierung
- Qwen oder GptOSS für Self-Hosting mit hohem Reifegrad
Integration mit CompanyGPT
Sobald Soofi S produktiv nutzbare Instruct-Varianten bereitstellt, lässt es sich – wie andere Open-Weights-Modelle – in eine selbst gehostete Plattform wie CompanyGPT integrieren und DSGVO-konform in der eigenen EU-Cloud betreiben. Das strategisch Interessante an Soofi ist die Kombination aus echter Souveränität, radikaler Datentransparenz und deutscher Sprachstärke.
Für eine individuelle Einschätzung, welche souveräne Modellstrategie zu Ihrem Unternehmen passt, kontaktieren Sie innFactory AI Consulting.