In 30 Sekunden
- Dasselbe Modell wie die API: Die Gewichte von DeepSeek-V4.1-Flash-1017 und DeepSeek-V4-Pro-0813, auf denen die API heute läuft, stehen unter MIT-Lizenz auf Hugging Face. Damit lässt sich dasselbe Modell im eigenen Rechenzentrum betreiben, ohne Daten nach China zu senden.
- Kein Arbeitsplatzrechner: Die Gewichte sind je nach Fassung rund 160 bis 890 GB groß. Die Anleitungen von SGLang und vLLM nennen Server mit 4 bis 8 Rechenzentrums-GPUs, für V4-Pro auf H100 zwei solcher Server.
- Hoher Update-Takt: Zwischen dem 22. April und dem 17. Oktober 2026 hat DeepSeek an sieben Terminen neue V4-Gewichte veröffentlicht. Jede Fassung braucht eigene Tests vor dem Wechsel.
- Sicherheit selbst prüfen: Das NIST fand 2025 bei älteren DeepSeek-Modellen eine deutlich höhere Anfälligkeit für Agenten-Kaperung als bei US-Vergleichsmodellen. Für V4 gibt es keine vergleichbare öffentliche Prüfung.
Executive Summary
Der Eigenbetrieb löst das Datenproblem der DeepSeek-API, schafft aber ein Betriebsproblem: GPU-Server, eine Inferenz-Software mit schnellen Versionswechseln, laufende Modellpflege und eigene Sicherheitstests. Er lohnt sich für Unternehmen, die schon GPU-Betrieb haben oder einen EU-Hostingpartner beauftragen. Für alle anderen ist ein anderes, in der EU gehostetes Modell meist der schnellere Weg.
Was Unternehmen jetzt tun sollten
- IT-Leitung, vor dem BudgetFestlegen, welches Modell gebraucht wird: Flash mit einem Server oder Pro mit acht großen GPUs oder zwei Servern. Danach Angebote für Kauf, Miete oder EU-Hosting einholen.
- Plattformteam, im PilotEine Inferenz-Engine wählen, die Version festschreiben, Telemetrie abschalten und das Modell nur intern erreichbar machen.
- Sicherheit und Fachbereich, vor der FreigabeEigene Tests auf Prompt-Injection, Werkzeugmissbrauch und Ausgabequalität aufsetzen und bei jeder neuen Modellfassung wiederholen.
Der Beitrag richtet sich an IT-Leitungen, Plattform- und Sicherheitsteams, die DeepSeek wegen Qualität oder Preis nutzen möchten, die API aber wegen des Datenwegs nach China ausschließen. Warum die API für personenbezogene oder vertrauliche Daten kaum vertretbar ist, steht im Beitrag zur DeepSeek-API im Unternehmen. Sinnvoll beginnt man mit zwei Fragen: Welche Modellgröße braucht der Anwendungsfall wirklich, und wer betreibt danach Server, Software und Modell, auch nachts und bei Updates?
Wo der Eigenbetrieb im DeepSeek-Angebot steht
DeepSeek bietet drei Wege an, wie die Seite DeepSeek für Unternehmen zeigt: die API, offene Modellgewichte und offengelegte Infrastruktur-Bausteine wie die Inferenz-Engine DeepInfer. Der Eigenbetrieb nutzt die offenen Gewichte. Laut API-Dokumentation beantwortet das Modell DeepSeek-V4.1-Flash-1017 alle Anfragen an deepseek-flash, das Pro-Modell der API läuft laut Preisseite auf DeepSeek-V4-Pro-0813. Beide Fassungen stehen auf Hugging Face, ebenso die älteren V4-Fassungen.
Die Modellkarten nennen für Code und Gewichte die MIT-Lizenz. Sie erlaubt kommerzielle Nutzung, Änderung und Weitergabe, schließt aber jede Gewährleistung aus. Was der Eigenbetrieb nicht mitbringt: Support, Zusagen zu Verfügbarkeit oder Fehlerbehebung und eine Sicherheitsprüfung durch den Hersteller. Diese Aufgaben liegen beim Unternehmen oder bei seinem Hostingpartner.
Welche Hardware die Modelle brauchen
Alle Fassungen sind Mixture-of-Experts-Modelle, unterscheiden sich aber deutlich. V4-Pro hat laut Modellkarte 1,6 Billionen Parameter, davon 49 Milliarden aktiv je Token, V4-Flash 284 Milliarden mit 13 Milliarden aktiven. Beide nutzen FP4 für die Experten und FP8 für die übrigen Teile. V4.1-Flash ist eine neue Architektur: Laut vLLM-Rezept hat sie 552 Milliarden Parameter im Grundgerüst und zusätzlich 196 Milliarden in einem eigenen Engram-Speicher, aktiv sind 8 Milliarden je Eingabetoken und 16 Milliarden je Ausgabetoken. Aktiv heißt nicht geladen: Die Gewichte müssen im Speicher der Server bereitliegen, der größte Teil im Grafikspeicher. Das vLLM-Rezept für V4.1 lagert den Engram-Speicher in den normalen Arbeitsspeicher aus. Die Tabelle zeigt die Größe der Gewichte und die Konfigurationen, die die Anleitungen der beiden verbreiteten Inferenz-Engines nennen.
| Fassung | Gewichte | Genannte Konfigurationen |
|---|---|---|
| V4-Flash (April) und Flash-0731 | rund 160 bzw. 167 GB | SGLang: ein Server mit 4 GPUs vom Typ B200, B300 oder H200, mit 8 GPUs vom Typ H100 oder mit 2 GPUs vom Typ RTX PRO 6000. vLLM-Standardrezept: 8 × H200 |
| V4.1-Flash-1017 (heutiges API-Flash, neue Architektur) | rund 510 GB | vLLM: ein Server mit 8 GPUs vom Typ H100, H200 oder B200; Standardrezept 4 × GB200; Engram-Speicher im Arbeitsspeicher |
| V4-Pro und Pro-0813 (heutiges API-Pro) | rund 865 bzw. 893 GB | SGLang: 8 × B200/B300 oder 8 × H200 mit FP4; mit FP8 auf H200 und auf H100 zwei Server mit je 8 GPUs. vLLM: 8 × H200 oder 8 × B200, auf H100 zwei Server |
Gewichte: Summe der Dateigrößen auf Hugging Face, eigene Rechnung von AI-Fabrik, Stand 11. November 2026. Konfigurationen nach dem SGLang-Cookbook und den vLLM-Rezepten für V4-Flash, V4.1-Flash und V4-Pro. Das sind getestete Beispiele der Projekte, keine Mindestanforderungen und keine Durchsatzzusagen.
Daraus folgt eine einfache Faustregel für die Planung: Flash passt auf einen Server, Pro braucht einen Server mit acht der größten aktuellen GPUs oder zwei ältere. Wer lange Kontexte nutzt, braucht zusätzlich Speicher für den Zwischenspeicher der Anfragen. DeepSeek empfiehlt für den Modus mit maximalem Denkaufwand mindestens 384.000 Tokens Kontext. Durchsatz und Antwortzeiten hängen stark von Konfiguration und Last ab. Belastbare Zahlen liefert nur ein eigener Lasttest mit typischen Anfragen.
Ein Zwischenweg ist ein EU-Hostingpartner, der die GPUs betreibt und das Modell im Auftrag bereitstellt. Er nimmt dem Unternehmen die Hardware ab, nicht aber die Entscheidung über Modellfassung, Tests und Freigabe. Für diesen Weg gehören Ort der Verarbeitung, Speicherung von Eingaben und Unterauftragnehmer in den Vertrag zur Auftragsverarbeitung.
Was ein Team für den Betrieb leisten muss
Ein produktiver Dienst besteht aus mehr als Gewichten und Servern. Wir sehen vier Aufgaben, die jemand verantworten muss. Die Einteilung ist eine Empfehlung von AI-Fabrik, keine Vorgabe von DeepSeek.
- Plattform: GPU-Treiber, Container, Inferenz-Engine, Lastverteilung, Überwachung und Bereitschaft bei Ausfällen. Die Anleitungen setzen je Fassung unterschiedliche Versionen voraus: Laut vLLM-Rezepten brauchen V4-Flash und V4-Pro mindestens vLLM 0.25.0, V4.1-Flash dagegen mindestens 0.31.0. Dazu kommen Einstellungen je GPU-Typ.
- Modellpflege: neue Fassungen beobachten, laden, Prüfsummen und Herkunft festhalten, gegen die eigenen Testfälle laufen lassen und erst danach umstellen.
- Sicherheit: Netzwerkzugang, Schlüssel, Protokollierung, Rechte der angebundenen Werkzeuge und Tests auf Prompt-Injection und Werkzeugmissbrauch.
- Fachliche Abnahme: Qualität mit eigenen Aufgaben prüfen, vor allem auf Deutsch und mit Fachbegriffen, und entscheiden, ob eine neue Fassung besser ist.
Für ein kleines Unternehmen ohne GPU-Betrieb ist das zu viel für einen Pilot. Dort reichen ein Hostingpartner und eine benannte Person für Modellpflege und Abnahme. Bei produktiven Agenten mit Zugriff auf interne Systeme kommen eine feste Bereitschaft, wiederholbare Sicherheitstests vor jeder Umstellung und eine unabhängige Prüfung hinzu.
Wann sich der Eigenbetrieb rechnet
Ob Eigenbetrieb, gemietete GPUs oder ein EU-Hostingpartner günstiger ist, hängt weniger vom Modell ab als von der Auslastung. Die API rechnet je Token ab, der Eigenbetrieb verursacht feste Kosten, auch wenn die Server nachts leer laufen. Konkrete Beträge nennen wir nicht, weil Hardwarepreise, Mieten und Personalkosten stark schwanken. Für einen belastbaren Vergleich gehören diese Posten in die Rechnung:
- Rechenleistung: Kauf mit Abschreibung oder Miete der GPU-Server, Reserve für Ausfälle und für die Testumgebung neuer Fassungen.
- Rechenzentrum: Strom, Kühlung, Stellfläche und Netzwerk, bei Miete meist im Preis enthalten.
- Personal: Plattformbetrieb mit Bereitschaft, Modellpflege, Sicherheitstests und fachliche Abnahme.
- Software und Verträge: gegebenenfalls Supportverträge für Inferenz-Software oder Betriebssysteme und der Vertrag mit einem Hostingpartner.
Für den Eigenbetrieb sprechen eine hohe, gleichmäßige Auslastung, Daten, die das Haus nicht verlassen sollen, und ein vorhandenes Team für GPU-Betrieb. Dagegen sprechen schwankende oder geringe Nutzung, fehlende Betriebserfahrung und der Fall, dass ein anderes, bereits in der EU gehostetes Modell die Aufgabe ebenso gut löst. Die ehrliche Gegenrechnung ist deshalb nicht DeepSeek-API gegen eigene Server, sondern eigene Server gegen das beste in der EU gehostete Angebot für denselben Anwendungsfall.
Der Update-Takt als eigentliche Last
Laut den Veröffentlichungsdaten auf Hugging Face erschienen neue V4-Gewichte am 22. April, 27. Juni, 31. Juli, 13. August, 31. August, 10. September und 17. Oktober 2026. Manche davon sind kleine Aktualisierungen, andere neue Modelle wie die V4.1-Reihe. Wer der API-Qualität folgen will, muss jede Fassung prüfen und entscheiden. Wer stehen bleibt, behält ein stabiles Modell, verliert aber Verbesserungen.
Redaktionelle, schematische Darstellung von AI-Fabrik, kein Produkt-Screenshot. Termine: Erstellungsdaten der Modell-Repositorys von DeepSeek auf Hugging Face, ohne Base-Modelle. Der Prüfablauf ist unsere Empfehlung.
Praktisch heißt das: Eine feste Fassung wird für den Betrieb festgeschrieben, etwa über eine bestimmte Revision auf Hugging Face, und neue Fassungen laufen zuerst in einer Testumgebung. Der Wechsel erfolgt erst, wenn die eigenen Testfälle bestanden sind, und die alte Fassung bleibt als Rückweg verfügbar. Ohne diese Disziplin ändert sich das Verhalten eines produktiven Assistenten, ohne dass es jemand entschieden hat.
Sicherheit: Was der Eigenbetrieb löst und was nicht
Im eigenen Rechenzentrum verlassen Eingaben das Unternehmen nur, wenn angebundene Werkzeuge, Protokollierung, Überwachungsdienste oder ausgehende Verbindungen sie hinaustragen. Richtig konfiguriert löst das die Drittlandfrage der API, aber das muss das Betriebsteam sicherstellen und prüfen. Die Inferenz-Software kann selbst Daten senden: vLLM etwa sammelt laut Dokumentation standardmäßig anonyme Nutzungsstatistiken zu Hardware und Konfiguration, abschaltbar über VLLM_NO_USAGE_STATS=1 oder DO_NOT_TRACK=1. Solche Einstellungen gehören in die Betriebsvorgaben, und ausgehende Verbindungen der Server sollten ohnehin gesperrt sein.
Schwerer wiegt das Verhalten des Modells. Das Center for AI Standards and Innovation am NIST hat im September 2025 drei ältere DeepSeek-Modelle geprüft, R1, R1-0528 und V3.1. Laut Bericht folgten Agenten auf Basis des sichersten geprüften Modells im Schnitt zwölfmal häufiger eingeschleusten schädlichen Anweisungen als die US-Vergleichsmodelle GPT-5 und Opus 4. Der Bericht betrifft nicht V4, und ein entsprechender öffentlicher Test für V4 ist uns nicht bekannt. Er zeigt aber, dass Unternehmen sich bei DeepSeek nicht auf Herstellerangaben zur Sicherheit verlassen sollten.
Vor dem Anschluss an Werkzeuge testen: Ein selbst betriebenes Modell, das E-Mails liest, Dokumente auswertet oder Aktionen in internen Systemen auslöst, braucht Tests mit präparierten Inhalten, die ihm Anweisungen unterschieben. Abnahmekriterien, Protokollierung und Verantwortung für Befunde gehören fest in den Prozess, und die Tests laufen bei jeder neuen Modellfassung erneut. Die Rechte der Werkzeuge werden außerhalb des Modells begrenzt, nicht im Prompt.
Pilotfragen vor dem Eigenbetrieb
- Reicht für den Anwendungsfall ein Flash-Modell auf einem Server, oder braucht er Pro, und haben wir das mit eigenen Aufgaben verglichen?
- Betreiben wir die GPUs selbst, mieten wir sie oder beauftragen wir einen EU-Hostingpartner, und wer hat dort Zugriff auf Eingaben?
- Wer beobachtet neue Fassungen, testet sie und entscheidet über den Wechsel, und wie schnell können wir zurück?
- Welche Sicherheitstests laufen vor dem Anschluss an Werkzeuge, mit welchen Abnahmekriterien und wer verantwortet Befunde?
- Ist die Inferenz-Software festgeschrieben, sind Telemetrie und ausgehende Verbindungen abgeschaltet, und wer pflegt Sicherheitsupdates?
Fazit: Ein guter Weg für Teams mit GPU-Betrieb
Die offenen Gewichte machen DeepSeek für deutsche Unternehmen nutzbar, ohne Daten nach China zu senden, und zwar mit denselben Modellen, die heute hinter der API stehen. Der Preis ist ein eigener Betrieb mit großen GPU-Servern, schnellem Update-Takt und Sicherheitstests, die kein Anbieter abnimmt. Für Unternehmen ohne GPU-Erfahrung ist ein EU-Hostingpartner der realistische Einstieg.
Die nächste Entscheidung: Reicht Flash für den geplanten Fall, und wer übernimmt Betrieb und Modellpflege, im Haus oder bei einem Partner?
Quellen
Anbieter (abgerufen am 11. November 2026)
- DeepSeek: Modellkarte DeepSeek-V4-Pro (Parameter, Präzision, Lizenz)
- DeepSeek: Modellkarte DeepSeek-V4.1-Flash-1017
- DeepSeek: Modellkarte DeepSeek-V4-Pro-0813
- DeepSeek: Modell-Repositorys auf Hugging Face (Veröffentlichungsdaten, Dateigrößen)
- DeepSeek: API-Dokumentation und Models & Pricing
Inferenz-Software
- SGLang: Cookbook DeepSeek-V4
- vLLM: Rezepte für V4-Flash, V4.1-Flash und V4-Pro
- vLLM: Usage Stats Collection
Behörden
- NIST, CAISI: Evaluation of DeepSeek AI Models, Prüfung im September 2025
