innFactory AI Consulting aus Rosenheim berät Unternehmen im DACH-Raum zum DSGVO-konformen Self-Hosting von Google Gemma. Mit Open Weights haben Sie volle Kontrolle über Ihre Daten - keine Information verlässt Ihre Infrastruktur.
Google Gemma - Open Weights von Google
Gemma ist Googles Open-Weights Modellfamilie, entwickelt auf Basis der gleichen Forschung und Technologie wie Gemini. Anders als das proprietäre Gemini können Gemma-Modelle frei heruntergeladen, lokal betrieben und für kommerzielle Zwecke angepasst werden.
Besondere Stärken
Open Weights mit Google-Qualität
- Gemini-Technologie: Basiert auf Google DeepMinds Forschung
- Volle Kontrolle: Modell läuft in Ihrer eigenen Infrastruktur
- Keine API-Kosten: Nur Hardware-/Cloud-Kosten
- Anpassbar: Fine-Tuning auf eigene Daten möglich
Multimodale Fähigkeiten (Gemma 3)
- Text + Bild (ab 4B): Verarbeitung von Bildern und Text
- 128K Kontext (ab 4B): Lange Dokumente in einem Durchgang
- Multilingual: Über 140 Sprachen unterstützt
Flexible Deployment-Optionen
- On-Premise: Eigene Server oder Private Cloud
- Edge/Mobile: Kompakte Varianten (270M, 1B, 2B, 4B)
- Cloud: Vertex AI, AWS, Azure mit eigener Instanz
Modellübersicht
Gemma 3 Familie (2025)
| Modell | Parameter | VRAM | Empfohlene GPU | Kontext |
|---|---|---|---|---|
| Gemma 3 27B | 27B | 32+ GB | A100 / H100 | 128K |
| Gemma 3 12B | 12B | 16+ GB | RTX 4090 | 128K |
| Gemma 3 4B | 4B | 8 GB | RTX 4070 | 128K |
| Gemma 3 1B | 1B | 2 GB | Mobile / Edge | 32K |
| Gemma 3 270M | 0.27B | 1 GB | Mobile / Edge | 32K |
Gemma 2 Familie (2024)
| Modell | Parameter | VRAM | Empfohlene GPU | Kontext |
|---|---|---|---|---|
| Gemma 2 27B | 27B | 32+ GB | A100 | 8K |
| Gemma 2 9B | 9B | 12+ GB | RTX 4080 | 8K |
| Gemma 2 2B | 2B | 4 GB | RTX 3060 | 8K |
Vergleich: Gemma vs. Gemini vs. Llama
| Aspekt | Gemma 3 | Gemini 2.0 | Llama 4 |
|---|---|---|---|
| Lizenz | Open Weights | Proprietär | Community License |
| Self-Hosting | ✅ Ja | ❌ Nein | ✅ Ja |
| API-Kosten | Keine (Self-Hosted) | Pay-per-Use | Keine (Self-Hosted) |
| Multimodal | ✅ Text + Bild | ✅ Umfassend | ✅ Text + Bild |
| DSGVO Self-Host | ✅ Ideal | ⚠️ Cloud-abhängig | ✅ Ideal |
| Fine-Tuning | ✅ Möglich | ❌ Begrenzt | ✅ Möglich |
Einsatzgebiete
DSGVO-konforme Unternehmens-KI
- Sensible Daten bleiben in Ihrer Infrastruktur
- Keine Datenübertragung an externe Dienste
- Volle Kontrolle über Logging und Audit
Spezialisierte Anwendungen
- RAG-Systeme: Unternehmenswissen durchsuchbar machen
- Code-Assistenten: Interne Entwicklertools
- Kundenservice: Chatbots ohne Datenweitergabe
Edge und Mobile
- Gemma 3 1B/4B: Für Smartphones und IoT
- Offline-fähig: Keine Internetverbindung nötig
- Niedrige Latenz: Lokale Verarbeitung
Integration mit CompanyGPT
Gemma-Modelle können in CompanyGPT als Self-Hosted-Option integriert werden - ideal für Unternehmen, die Google-Qualität mit vollständiger Datenkontrolle kombinieren möchten.
Unsere Empfehlung
Gemma 3 27B ist die erste Wahl für Unternehmen, die Google-Qualität mit Self-Hosting kombinieren möchten. Für Edge-Anwendungen oder ressourcenbegrenzte Umgebungen sind Gemma 3 4B oder Gemma 3 1B hervorragende, kosteneffiziente Alternativen.
Wir unterstützen Sie bei der Auswahl, dem Deployment und dem Fine-Tuning von Gemma-Modellen in Ihrer Infrastruktur.