Die Debatte über KI-Infrastruktur dreht sich nach wie vor vor allem um Rechenleistung. Schnellere GPUs, größere Cluster und ausgefeiltere Verbindungstechnologien ziehen zu Recht die Aufmerksamkeit auf sich, denn sie bestimmen, wie schnell Modelle trainiert und wie effizient Inferenz bereitgestellt werden kann. Mit steigender Rechenleistung wird jedoch ein anderer Engpass sichtbarer: die Datenebene darunter. Das zeigt sich besonders deutlich im Bereich Language AI. 


Das Training fortschrittlicher Sprachmodelle erfordert bereits heute große, sich kontinuierlich weiterentwickelnde Datensätze. Kommen Echtzeit-Sprachverarbeitung, synthetische Trainingsdaten, größere Modellarchitekturen und hybride Infrastrukturumgebungen hinzu, verändern sich die Anforderungen an den Speicher erheblich. Performance bleibt wichtig, aber ebenso zählen Zuverlässigkeit, Kapazitätseffizienz, Datenmobilität und die Fähigkeit, unterschiedliche Zugriffsmethoden zu unterstützen, ohne die umgebende Architektur ständig neu aufbauen zu müssen.

Die Infrastrukturentwicklung bei DeepL ist ein anschauliches Beispiel.

Das Unternehmen hat stark in beschleunigtes Rechnen investiert. Sein neuestes System, ein NVIDIA DGX SuperPOD namens Arion, basiert auf der NVIDIA-Grace-Blackwell-Architektur und stellt einen deutlichen Fortschritt gegenüber dem bisherigen System Mercury dar. DeepL hat erklärt, dass eine hypothetische Übersetzung des gesamten Internets auf Mercury 193 Tage dauern würde, auf Arion dagegen knapp 18 Tage. Dabei geht es nicht um Geschwindigkeit um ihrer selbst willen. Mehr Rechenleistung ermöglicht es den Forschenden bei DeepL, größere Modelle zu trainieren, mit mehr Daten zu arbeiten und neue Fähigkeiten im Bereich Language AI zu erforschen.

Schnellere Rechenleistung verschiebt jedoch das Gleichgewicht im System.

Da GPUs immer größere Datenmengen verarbeiten können, muss auch die Infrastruktur, die sie versorgt, mitwachsen. Eine leistungsstarke GPU, die auf Daten warten muss, arbeitet trotzdem unter ihren Möglichkeiten. Und wenn Forschende Datensätze manuell zwischen Standorten kopieren, unzuverlässige Systeme umgehen oder für unterschiedliche Workloads mehrere Speicherlösungen pflegen müssen, verlagert sich der Engpass von der Rechenleistung hin zur Datenarchitektur.
Ein Grund, warum DeepL das AI Operating System von VAST Data als neue Datengrundlage für seine Forschungs- und Entwicklungsumgebungen einführt, liegt genau hier. Ziel ist nicht einfach mehr Speicherkapazität. Vielmehr soll eine zuverlässigere, effizientere und flexiblere Datenebene entstehen, die mit den zunehmend vielfältigen KI-Workloads Schritt halten kann.

Eines der greifbarsten Elemente ist die Kapazitätseffizienz. Laut den aktuellen Ausbauplänen erwartet DeepL, aus der bestehenden Hardware etwa die dreifache Speicherkapazität herauszuholen. Anstatt die physische NVMe-Infrastruktur im direkten Verhältnis zum Datenwachstum auszubauen, will das Unternehmen deutlich mehr nutzbare Kapazität aus der bereits betriebenen Hardware gewinnen.

Das geht über die reinen Speicherkosten hinaus. KI-Infrastruktur muss zunehmend als Gesamtsystem betrachtet werden. GPUs, Netzwerktechnik, Stromversorgung, Kühlung und Dateninfrastruktur sind jeweils erhebliche Investitionen. Verbessert sich die Auslastung einer einzelnen Schicht, kann dies die Effizienz der gesamten Plattform steigern. Dabei sollte man Kapazitätseffizienz allerdings nicht mit einer simplen Geschichte über „mehr Terabyte“ gleichsetzen.

Für Forschungsteams bedeutet zusätzliche nutzbare Kapazität mehr Raum für Datensätze, Modell-Checkpoints und Experimente. Es verringert den Druck, ständig entscheiden zu müssen, was verschoben, dupliziert oder gelöscht werden muss, nur um Platz für den nächsten Trainingszyklus zu schaffen. Besonders relevant wird dies durch den eigenen Ansatz von DeepL bei der Modellentwicklung. Das Unternehmen beschreibt den Einsatz synthetischer Daten als grundlegenden Bestandteil seiner Trainingsmethodik und hat erklärt, seine Verfahren könnten das Volumen der Trainingsdaten um den Faktor 1.000 erhöhen. Mit wachsender Rechenleistung wird die Fähigkeit, große Mengen nützlicher Trainingsdaten zu erzeugen und damit zu arbeiten, zum Vorteil, allerdings nur dann, wenn die Dateninfrastruktur sie auch aufnehmen kann.

Der zweite architektonische Aspekt ist das Verhältnis von Datei- und Objektspeicher. KI-Umgebungen wechseln selten sauber von dem einen zum anderen. Forschende arbeiten oft mit etablierten Workflows, die auf Dateischnittstellen, Werkzeugen und Verzeichnisstrukturen basieren. Gleichzeitig ist Objektspeicher für skalierbare KI-Datenarchitekturen und cloudorientierte Workflows zunehmend wichtig geworden.

Wer Forschungsteams zwingt, sich für eines der beiden Modelle zu entscheiden und das andere sofort aufzugeben, provoziert unnötige Brüche. DeepL setzt das VAST AI OS sowohl für Datei- als auch für Objektspeicher ein. Bestehende Workflows können so weiterlaufen, während der Umstieg auf eine stärkere Nutzung von Objektspeicher schrittweise vorbereitet wird. Entscheidend ist, dass beide Zugriffsmodelle auf einer gemeinsamen Plattform arbeiten, anstatt getrennte Datensilos und zusätzliche Kopien zu erzeugen. Das ist von großer Bedeutung, da der Datentransfer zu den oft übersehenen Kosten der KI-Infrastruktur zählt.

DeepL plant zunächst den Einsatz von VAST in eigenen Rechenzentren und will die Nutzung mit der Zeit auf Cloud-Umgebungen ausweiten. Ziel ist es, Forschenden einen konsistenteren Datenzugriff über verschiedene Infrastrukturstandorte hinweg zu ermöglichen und das manuelle Kopieren von Datensätzen zu reduzieren, das Experimente sonst verlangsamen kann.

Die Umgebung von DeepL ist bereits heute hybrid. Das Unternehmen hat AWS als Infrastrukturanbieter neben seiner eigenen europäischen Rechenzentrumsinfrastruktur hinzugefügt, während seine großen KI-Systeme NVIDIA-DGX-SuperPOD-Installationen umfassen.

In einer solchen Umgebung ist das Kopieren von Daten bei jedem Wechsel des Rechenstandorts kein skalierbares Langzeitmodell. Große Datensätze benötigen Zeit für die Übertragung, Duplikate belegen Kapazität, und jede zusätzliche Verschiebung bringt einen weiteren operativen Prozess mit sich, den Forschende verwalten müssen.

Auch die Migration ist ein praktischer Teil der Architektur. DeepL nutzt VAST SyncEngine, um Daten aus der bestehenden Umgebung auf die VAST-Plattform zu übertragen. So lässt sich der Übergang selbst als Teil der Datenarchitektur behandeln und nicht als separates, manuell gesteuertes Migrationsprojekt.

Dann ist da noch die Zuverlässigkeit. KI-Infrastruktur wird häufig anhand des maximalen Durchsatzes bewertet, doch Forschungsorganisationen sind auch auf vorhersehbares Verhalten angewiesen. Trainingsjobs können über lange Zeiträume laufen, Datensätze werden wiederholt von verschiedenen Teams genutzt, und die Kosten von Instabilität in der Infrastruktur beschränken sich nicht auf ein Ausfallfenster.

Verlieren Forschende das Vertrauen in die Plattform unter ihnen, ändert sich ihr Verhalten. Sie entwickeln Workarounds, duplizieren Daten, meiden bestimmte Workflows oder verbringen Entwicklungszeit damit, Infrastrukturprobleme statt Modellprobleme zu lösen.

Deshalb wird industrietaugliche Zuverlässigkeit immer wichtiger, wenn KI von isolierten Forschungsprojekten in kontinuierlich betriebene Produkte übergeht. DeepL-Chief-Scientist Stefan Andresen hat die Anforderung bei der Ankündigung des Projekts klar formuliert: DeepL brauche sowohl Performance als auch Zuverlässigkeit, während seine Forschenden Language AI in anspruchsvollere Bereiche vorantreiben. Besonders deutlich wird dieser Punkt bei Voice AI. DeepL Voice hat die Technologie des Unternehmens von der schriftlichen Übersetzung auf mehrsprachige Live-Konversationen ausgeweitet.

Jüngste Fortschritte ermöglichen es dieser Technologie, Merkmale der Stimme eines Sprechers über Sprachgrenzen hinweg zu bewahren. Solche Workloads sind deutlich datenintensiver als reine Texte und stellen zusätzliche Anforderungen an Training, Datenzugriff und Produktionsinfrastruktur. Hier wird die Architektur der Datenebene wichtiger als jeder einzelne Speicher-Benchmark.

Die Plattform muss Forschende mit vertrauten Workflows versorgen, zunehmend objektorientierte KI-Pipelines unterstützen, eine konstante Performance bei wachsenden Datensätzen liefern, die vorhandene NVMe-Kapazität effizient nutzen und letztlich den Zugriff auf Daten über verschiedene Infrastrukturumgebungen hinweg ermöglichen. Und sie muss all das leisten, ohne dass Forschende über sie nachdenken müssen. Das ist eine wichtige Erkenntnis aus DeepLs Einführung.

Während die Rechenleistung von KI weiter zunimmt, können sich Organisationen es nicht leisten, die Datenebene als zweitrangig zu behandeln. Schnellere GPUs erhöhen den Wert eines schnellen, zuverlässigen Datenzugriffs und machen die Kosten sichtbar, wenn dieser Zugriff fehlt.

Für Forschungsorganisationen wie DeepL ist das Ziel klar: Wissenschaftlern zuverlässigen Zugriff auf die Daten zu geben, die sie brauchen, wo immer sie gebraucht werden, ohne dass sie die Infrastruktur jedes Mal neu gestalten müssen, wenn sich Modell, Modalität oder Einsatzumgebung ändern.

KI-Infrastruktur dreht sich zunehmend um die Balance des Gesamtsystems und weniger um einzelne Komponenten. Schnellere GPUs können nichts an einem langsamen Datenpfad ändern, mehr Kapazität löst keine fragmentierten Zugriffe, und Cloud-Flexibilität hilft nicht, wenn jeder Schritt eine weitere Kopie der Daten erfordert.

Die Gewinner werden jene Architekturen sein, die diese Zielkonflikte tatsächlich beseitigen, statt den Engpass einfach an eine andere Stelle zu verschieben.

Von Jakob Jung

Dr. Jakob Jung ist Chefredakteur Security Storage und Channel Germany. Er ist seit mehr als 20 Jahren im IT-Journalismus tätig. Zu seinen beruflichen Stationen gehören Computer Reseller News, Heise Resale, Informationweek, Techtarget (Storage und Datacenter) sowie ChannelBiz. Darüber hinaus ist er für zahlreiche IT-Publikationen freiberuflich tätig, darunter Computerwoche, Channelpartner, IT-Business, Storage-Insider und ZDnet. Seine Themenschwerpunkte sind Channel, Storage, Security, Datacenter, ERP und CRM.
Kontakt – Contact via Mail: jakob.jung@security-storage-und-channel-germany.de

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

WordPress Cookie Hinweis von Real Cookie Banner