Wenn Datenschutz und Zuverlässigkeit zählen: Exoscale Dedicated Inference – souveräne KI für den Produktivbetrieb

„Dedicated Inference ist besonders geeignet für Teams, die den Schritt von der Experimentierphase in die Produktionsphase vollziehen möchten, ohne eine eigene KI-Plattform aufbauen und betreiben zu müssen“, erläutert Antoine Coetsier, COO von Exoscale. „Das ‚Dedicated‘ in ‚Dedicated Inference‘ nehmen wir sehr ernst: Die Daten und Tokens der Kunden teilen die Hardware nicht mit anderen Cloud-Nutzern. So profitieren sie von konstantem Durchsatz und extrem niedrigen Latenzen. Die Isolierung reicht bis tief in die Logs und den GPU-Speicher hinein, was maximalen Datenschutz garantiert.“

Mit Dedicated Inference übernimmt Exoscale das gesamte Management der Infrastruktur von der Skalierung bis hin zu den Updates im Hintergrund und bietet Entwicklern eine vertraute, OpenAI-kompatible Programmierschnittstelle. Weil der gesamte Betrieb in europäischen Rechenzentren stattfindet, unterliegt die Datenverarbeitung den strengen Vorgaben sowohl der DSGVO als auch des revDSG, wodurch sich der Service auch ideal für hochregulierte Branchen eignet. Die Abrechnung erfolgt dabei nicht unvorhersehbar gemäß Tokeninput und Tokenverbrauch, sondern transparent und sekundengenau auf Basis der bereitgestellten Hardware-Ressourcen. Darüber hinaus profitieren Nutzer von der Performance der neuesten NVIDIA-GPU-Generationen und einer in den SLA gewährleisteten Verfügbarkeit von 99,95 Prozent.

IT-Abteilungen, Data Scientists oder Business Application Owner können ein KI-Modell auf der weltweit meistgenutzten KI-Kollaborationsplattform Hugging Face auswählen und in ihrer dedizierten Dedicated Inference Umgebung auf Exoscale nutzen. Hierzu müssen sie lediglich auf die Modell-ID eines öffentlichen, geschützten (gated) oder privaten Modells auf dem Hugging Face Hub verweisen. Anschließend instanziiert Exoscale das geladene Modell auf dedizierten NVIDIA-Grafikkarten (GPUs) und stellt es dem Kunden sicher über eine OpenAI-kompatible Schnittstelle zur Verfügung.

„Das LLM ist das Rückgrat unserer Pipeline. Daher sind Zuverlässigkeit, Sicherheit und Kontrolle unverzichtbar“, erklärt Géraud de Laval, Mitgründer von Recarta, einem führenden Anbieter für digitale Datenextraktion und -aufbereitung in der institutionellen Immobilienverwaltung. „Exoscale Dedicated Inference bietet uns genau das: eine vollständig verwaltete, DSGVO-konforme Umgebung mit der von uns benötigten Skalierbarkeit ohne die Risiken gemeinsam genutzter Ressourcen. Keine störenden Nachbarn, keine unvorhersehbare Leistung und keine erzwungenen Leistungsengpässe – sondern eine stabile, transparente Infrastruktur, in der wir die volle Kontrolle über unsere Modelle, die Nutzung und die Release-Zyklen behalten. Für unsere Kunden bedeutet das den Einsatz von Open-Source-LLMs ohne Hintertüren, eine absolut sichere Datenisolierung und die Gewissheit, dass ihre kritischen Arbeitsabläufe nicht durch externe Faktoren gestört werden.“

Über Exoscale
Exoscale ist ein führender europäischer Cloud-Infrastruktur-Anbieter und bietet vollständig datensouveräne Cloud-Lösungen. Mit Fokus auf Transparenz, Sicherheit und Unabhängigkeit liefert Exoscale Cloud-Infrastruktur für Organisationen, die höchste Anforderungen an Datenschutz und Compliance stellen. www.exoscale.com