On-Premise LLM
Ein Modell auf eurer eigenen Hardware. Kein Token verlässt euer Netz. Betrieb über Docker, Update und Rollback wie bei jeder anderen Anwendung.
Säule 2
KI auf euren Servern. Nachweis inklusive.
Lokale LLMs, EU-Hosting und automatische Protokollierung für Kliniken, FinTechs und regulierte Unternehmen.
01Für wen
Das passt, wenn bei euch einer dieser Punkte zutrifft.
- Eure Mitarbeiter nutzen KI-Werkzeuge, die ihr nie freigegeben habt.
- Personenbezogene oder besonders geschützte Daten dürfen das Haus nicht verlassen.
- Der EU AI Act oder DORA verlangt Nachweise, die ihr heute nicht habt.
- Die Rechtsabteilung hat KI gestoppt, weil niemand die Datenwege erklären kann.
- Ihr wollt den Nutzen von KI, aber keine US-Cloud.
02Use Cases
Was wir bauen.
EU-native Infrastruktur
Wenn eigene Hardware nicht passt, läuft das Modell in einer EU-Cloud unter eurem Vertrag. Kein Transfer in ein Drittland.
Automatisches Logging
Jede Anfrage wird protokolliert. Wer hat wann was gefragt, mit welchem Modell und welcher Version.
Kryptografische Data Lineage
Jeder Verarbeitungsschritt wird mit einer Hash-Kette abgelegt. Der Nachweis ist prüfbar, nicht nur behauptet.
Nachweise für die Prüfung
Die Protokolle gehen als Auszug an Qualitätsmanagement, Datenschutz oder Prüfer. Über Matproof auch als laufender GRC-Nachweis.
03Ablauf
In vier Schritten.
- 01
Schutzbedarf klären
Welche Daten, welche Rechtsgrundlage, welcher Rahmen. DSGVO, EU AI Act, DORA oder Branchenrecht.
- 02
Architektur festlegen
On-Premise oder EU-Cloud. Modellwahl, Netztrennung, Rollen und Rechte.
- 03
Aufbau und Test
Wir stellen die Umgebung bereit und testen mit euren echten Fällen, nicht mit Demo-Daten.
- 04
Nachweis anschließen
Protokoll und Lineage laufen ab Tag eins mit. Der erste Auszug geht direkt an die Prüfstelle.
04Ergebnis
Was sich ändert.
- Mitarbeiter nutzen KI im freigegebenen Weg statt im Browser-Tab daneben.
- Ihr könnt jederzeit zeigen, welche Daten ein Modell gesehen hat.
- Kein Transfer in ein Drittland und kein Dienstleister, den ihr nicht kennt.
- Eine Prüfung kostet Stunden statt Wochen.
Welche Daten dürfen euer Haus nicht verlassen?
Schreibt uns den Fall. Ihr bekommt innerhalb von 24 Stunden eine Antwort.