Arc Compute ArcHPC

Das Ergebnis sind drastisch verbesserte Task-Ausführungsraten und eine insgesamt effizientere Infrastruktur. Eines der Hauptziele von Arc Compute ist die Lösung des Problems der Industrie, immer mehr Hardware zu verwenden. Die ArcHPC Suite erstellt und verwaltet Ihre HPC-Umgebung und ermöglicht es Administratoren, die Benutzer- und Aufgabendichte einfach zu erhöhen. Nexus fängt den Maschinencode während der Ladephase ab und ermöglicht es den Anwendern, die in der Warteschlange befindlichen Instruktionen und die Datengröße der Kernelausführung zu analysieren.

Dadurch kann die Ausführung von Tasks/Jobs optimiert und die Taskdichte erhöht werden. Nexus analysiert nicht den Inhalt der Daten und gewährleistet somit den Datenschutz. Es ist für Bare Metal (deb-Datei) und Virtualisierung (iso-Datei) verfügbar.

Nexus Oracle orchestriert automatisch die Task-/Kernel-koordinierten Ausführungsfunktionen von Nexus in Ihrem Cluster. Es verwaltet die Low-Level-Befehlsausführung in Ihrer HPC-Umgebung und steigert die beschleunigte Hardwareleistung durch unternehmensweit skalierbare Laufzeitkontrollen. Wenn Nexus Maschinencodedaten, Befehlstyp und Datengröße im Hostspeicher speichert, greift Oracle auf den Hostspeicher (CPU) zu und trifft Ausführungsentscheidungen basierend auf benutzerdefinierten Richtlinien und Governance.

Oracle ordnet Aufgaben optimal an und staffelt die Kernel-Ausführungszeiten auf der Grundlage von Informationen, die vom Maschinencode gesammelt werden, um die Leistung zu verbessern.

ArcHPC analysiert die Latenz zwischen Speicherzugriffen während der Kernelausführung und plant mehr Kernelausführungen in einem bestimmten Zeitrahmen, um die Leistung zu optimieren. Aufgrund der natürlichen Widerstände, Begrenzungen und Trägheit der Hardware entstehen bei den Berechnungspipelines Anlaufkosten, die ArcHPC durch das Einplanen zusätzlicher Kernel innerhalb desselben Zeitrahmens reduzieren kann. Sobald die Pipelines gesättigt sind, wird weniger Energie benötigt, um sie optimal zu betreiben, was die Latenz weiter reduziert.

ArcHPC Nexus verwaltet gleichzeitig mehrere Beschleuniger-Hardware-Architekturen und -Generationen in einer HPC-Umgebung und ermöglicht es Anwendern, Rechenressourcen zu mischen und anzupassen, um flexibel zu bleiben.

Arc HPC Oracle automatisiert Task-Matching und Task-Deployment

– Verwaltet die operative Ausführung von Low-Level-Instruktionen in der HPC-Umgebung

– Steigert die beschleunigte Hardwareleistung durch unternehmensskalierbare Steuerung

ArcHPC Oracle automatisiert das Task-Matching und Task-Deployment und ermöglicht so Skalierbarkeit, Rationalisierung und sofortigen Einsatz in dynamischen Umgebungen.  Manuelles Task-Matching ist ein mühsamer, entmutigender und schwerfälliger Prozess, den einige große Unternehmen derzeit durchführen, um die Nutzung ihrer HPC-Investitionen zu maximieren. Menschen können diesen Prozess nicht verwalten, da kleine Änderungen am Code eine Überarbeitung des gesamten Prozesses erfordern. ArcHPC Oracle bietet flexible Enterprise-Management-Tools und Governance, die es großen Unternehmen ermöglichen, den Betrieb granular zu steuern und mit den Geschäftszielen in Einklang zu bringen.

Oracle automatisiert die Abstimmung und Bereitstellung von Aufgaben durch die Analyse von Maschinencode und Latenzen in Ihrer beschleunigten Hardwarearchitektur. Dies optimiert die Codebereitstellung und stellt sicher, dass Aufgaben in den am besten geeigneten und kalibrierten HPC-Umgebungen ausgeführt werden, während gleichzeitig eine benutzerdefinierte Governance integriert wird, die den Geschäftszielen Ihres HPC-Ökosystems entspricht.

Parallel zu Oracle verwaltet Nexus die Rechenressourcen Ihrer HPC-Umgebung, kommuniziert mit Oracle und nimmt Anpassungen in Echtzeit vor, die auf Interaktionen mit Oracle basieren. Gemeinsam reagieren diese Lösungen auf dynamische Änderungen zur Laufzeit und maximieren gleichzeitig die Auslastung und Leistungsschwellen der zugrunde liegenden Infrastruktur.

Das aktuelle Release, ArcHPC Nexus R3 – Version 3, ist ein generisches Release mit Unterstützung für NVIDIA-Netzwerke und Cluster-basierte virtuelle Netzwerke.

Markteinführung

Die Markteinführung erfolgt direkt bei strategischen Kunden mit Schwerpunkt auf großen AI/ML-Unternehmen und Supercomputern. In Bezug auf OEM führt Arc Compute Gespräche mit führenden Anbietern von Rechenzentren. Ein Modell für Distributor/Wiederverkäufer wird mit einigen wichtigen Akteuren auf dem Rechenzentrumsmarkt entwickelt. Das Preismodell ist pro GPU mit Volumenpreisen zwischen $4000 und $8800 pro GPU pro Jahr.

The result is dramatically improved task completion rates and overall infrastructure efficiency. One of Arc Compute’s primary goals is to solve the industry’s „throw more hardware at it“ problem. The ArcHPC Suite Creates and manages your HPC environment, enabling administrators to easily increase user and task density. Nexus intercepts machine code at the load stage, allowing users to analyze queued instructions and kernel execution data size.

This allows users to optimize task/job execution and increase task density. Nexus doesn’t examine data content, ensuring data privacy. It is available for bare metal (deb file) and virtualization (iso file).

Nexus Oracle automatically orchestrates the task/kernel matching execution capabilities of Nexus across your cluster. It manages the low-level operational execution of instructions in your HPC environment, increasing accelerated hardware performance through enterprise-wide scalable controls at run-time. When Nexus stores machine code data, instruction type, and data size in host memory, Oracle accesses host memory (CPU) and makes execution decisions based on user-defined policies and governance.

Oracle optimally pairs tasks and staggers kernel execution times based on information captured from the machine code, resulting in better performance.

ArcHPC analyzes the latencies between memory accesses as kernels run and schedules more kernel executions within a given time frame to optimize performance. Compute pipelines have start-up costs due to the natural resistance, limitations, and inertia of the materials, and ArcHPC can mitigate these costs by scheduling additional kernels within the same time frame. Once pipelines are saturated, less energy is required to keep them performing optimally, further reducing latency.

ArcHPC Nexus simultaneously manages multiple accelerator hardware architectures and generations in an HPC environment, allowing users to mix and match compute resources to stay agile.

Arc HPC Oracle Automates Task Matching and Task Deployment

– Manages low-level operational execution of instructions in the HPC environment

– Increases accelerated hardware performance through enterprise-scalable control

ArcHPC Oracle automates task matching and task deployment so it’s scalable, streamlined and immediately applicable in dynamic environments.  Manual task matching is a grueling, daunting, cumbersome operation that some large enterprises currently perform to maximize the use of their underlying HPC investments as best as a human can. Humans can’t manage the operation because small code changes require a rework of the entire operation. ArcHPC Oracle provides flexible enterprise management tools and governance so large enterprises can maintain granular control of operations to align with business objectives. Oracle automates task tuning and deployment by analyzing machine code and latencies in your accelerated hardware architecture. This optimizes code deployment and ensures that tasks are executed in the most optimally tuned and calibrated HPC environments, while incorporating user-defined governance that aligns with business objectives across your HPC ecosystem.

Working in parallel with Oracle, Nexus manages the compute resources of your HPC environment while communicating and making live adjustments based on interactions with Oracle. Together, these solutions respond to dynamic changes at runtime while maximizing utilization and performance thresholds of the underlying infrastructure.

The current release, ArcHPC Nexus R3 – Version 3, is a general release with support for NVIDIA networking and cluster-based virtual networking.

Go To Market

Go To Market is direct to strategic accounts with a focus on large AI/ML enterprises and supercomputers. OEM is in discussions with leading data center providers. Distribution/Reseller is under development with a few major players in the datacenter market. Pricing model is per GPU with volume pricing in the range of $4000 to $8800 per GPU per year.