Nutanix bringt GPT-in-a-Box – Nutanix starts GPT-in-a-Box

Viele Unternehmen wissen nicht, wie sie die Vorteile von generativer KI sowie von KI- und ML-Anwendungen schnell, effizient und sicher nutzen können. Dies gilt insbesondere für Anwendungsfälle, die sie aufgrund von Bedenken hinsichtlich Datenhoheit, Governance und Datenschutz nicht in der Public Cloud betreiben können oder wollen. Auf der Suche nach Wegen, wie Unternehmen generative KI gewinnbringend einsetzen können, um Kundenservice, Entwicklerproduktivität, Betriebseffizienz und vieles mehr zu verbessern, entstehen täglich neue Anwendungsfälle.

Von der automatisierten Transkription interner Dokumente über die Hochgeschwindigkeitssuche von Multimediainhalten bis hin zu automatisierten Analysen – viele Unternehmen erkennen die Chancen von KI, ringen aber mit wachsenden Bedenken wie Verlust von geistigem Eigentum, Einhaltung von Vorschriften und Regularien sowie Datenschutz. Zudem wissen Unternehmen, die einen einsatzbereiten KI-Stack aufbauen wollen, oft nicht, wie sie ML-Administratoren und Datenwissenschaftler am besten unterstützen können. Darüber hinaus bringt die Aussicht auf hohe KI-Investitionskosten die KI- und ML-Strategien von Unternehmen ins Stocken.

„Kunden, die generative KI-Lösungen entwickeln und bereitstellen möchten, haben damit zu kämpfen, dass sie das für die Installation, Konfiguration und Ausführung dieser Workloads erforderliche Fachwissen mit den Bedenken hinsichtlich Datensicherheit und Schutz des geistigen Eigentums des Unternehmens in Einklang bringen müssen – und das alles bei gleichzeitiger Kostenkontrolle“, so Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group bei IDC. „Mit GPT-in-a-Box bietet Nutanix Kunden eine schlüsselfertige, einfach zu nutzende Lösung für ihre KI-Anwendungsfälle. Das ermöglicht Unternehmen, die sich mit der Einführung generativer KI abmühen, einen leichteren Einstieg in den Betrieb.“

Nutanix GPT-in-a-Box* bietet eine gebrauchsfertige, vom Kunden kontrollierte KI-Infrastruktur für das Edge- oder Core-Rechenzentrum. Mit ihrer Hilfe können Kunden KI- und GPT-Modelle betreiben und optimieren. Gleichzeitig behalten sie die Kontrolle über ihre Daten. Hierfür bietet Nutanix eine Palette an ergänzenden Sicherheits- und Datenschutzangeboten, die sich ideal für den Schutz von KI-Daten eignen.

„Die Unterstützung unserer Kunden bei der Bewältigung ihrer größten IT-Herausforderungen steht im Zentrum unserer Arbeit – vom Management der wachsenden Multi-Cloud-Komplexität über Herausforderungen im Bereich Datenschutz bis neu zur Einführung von generativen KI-Lösungen bei gleichzeitiger Kontrolle über Datenschutz und Compliance“, so Thomas Cornely, Senior Vice President, Product Management bei Nutanix*. „Nutanix GPT-in-a-Box ist ein umfassender betriebsbereiter Stack für KI, der darauf abzielt, die zentralen Herausforderungen bei der Einführung generativer KI zu lösen und einen Schnellstart von KI-Innovationen zu ermöglichen.“

Die neue Lösung beinhaltet:

• die branchenführende Nutanix-Cloud-Infrastructure™-Plattform, die Nutanix-Speicherlösungen Nutanix Files Storage™ und Nutanix Objects Storage™, den Hypervisor Nutanix AHV^® und Kubernetes sowie die NVIDIA-GPU-Beschleunigungstechnologie, die sich beliebig nach oben wie unten skalieren lassen
• Nutanix-Dienste zur Unterstützung von Kunden bei der Skalierung ihres Clusters und der Bereitstellung eines umfassenden Stacks mit den führenden Open-Source-Frameworks für Deep Learning und MLOps, Inferenzserver und ein gepflegtes Set an LLMs wie Llama2, Falcon und MPT
• die Möglichkeit für Datenwissenschaftler und ML-Administratoren, diese Modelle unmittelbar mit Anwendungen ihrer Wahl, einer erweiterten Terminal-UI oder einer Standard-CLI zu nutzen
• die Möglichkeit, auf der Plattform weitere GPT-Modelle zu betreiben und unter Verwendung interner Daten zu optimieren, die auf den mitgelieferten Nutanix-Files- oder -Objects-Storage-Diensten gehostet werden

„Die Nutzung von KI, um unseren Kunden effizienter und effektiver zu helfen, hat für uns höchste Priorität. Als regulierter Finanzdienstleister müssen wir jedoch die volle Kontrolle über unsere Daten behalten“, sagt Jon Cosson, CISO bei JM Finn. „Die Nutanix Cloud Platform bietet die Leistungsstärke, Flexibilität und Sicherheit, die für die sichere Bereitstellung von KI-Workloads erforderlich sind.“

Nutanix GPT-In-a-Box baut auf der Full-Stack-Skalierbarkeit, -Leistungsstärke, -Resilienz und Einfachheit auf, wofür die Nutanix Cloud Platform bekannt ist. Die Expertise von Nutanix zu skalierbaren Infrastrukturen für Anwendungsfälle in öffentlichen Clouds, Rechenzentren und am Edge bietet die ideale Umgebung, um KI-Anwendungen zu optimieren, zu betreiben und dabei gleichzeitig die Kontrolle über die Daten zu behalten. Tatsächlich gaben in einer aktuellen Umfrage 78 Prozent der Nutanix-Kunden an, dass sie ihre KI- und ML-Workloads mit hoher Wahrscheinlichkeit auf der Nutanix Cloud Platform betreiben werden.

Nutanix-Expertise und -Engagement in der Open-Source-KI-Community bieten Kunden eine solide Grundlage, auf der sie ihre KI-Strategie aufbauen können. Nutanix beteiligt sich in der Community in vielfältigen Rollen, insbesondere als Mitglied des MLCommons-Beirats für KI-Standards, als Mitbegründer und Mitglied in der technischen Leitung bei der Definition der ML-Storage- und Medicine-Benchmarks sowie als Ko-Vorsitzender der Arbeitsgruppen Kubeflow (MLOps) Training und AutoML bei der Cloud Native Computing Foundation (CNCF).

Nutanix-GPT-in-a-Box ist ab sofort für Kunden verfügbar. Weitere Informationen finden sich auf der Nutanix-Website.

Partnerstimmen

• „Red Hat unterstützt Unternehmen verschiedenster Branchen dabei, geschäfts- und unternehmenskritische Initiativen durch die Entwicklung und Bereitstellung von KI-fähigen Anwendungen in der Hybrid Cloud zu beschleunigen. Mit der neuen Lösung können gemeinsame Kunden von den Vorteilen von Red Hat OpenShift AI in Kombination mit dem für die KI-Nutzung optimierten Nutanix-Stack profitieren, um mit ihren Innovationen auf einer konsistenten, skalierbaren Open-Source-Basis durchzustarten und gleichzeitig die Kontrolle über ihre Daten zu behalten.“

• Sarwar Raza, Vice President, Cloud Services, bei Red Hat

• „Unternehmen auf der ganzen Welt wollen die Möglichkeiten generativer KI gewinnbringend nutzen, aber viele von ihnen – vor allem in regulierten Branchen – machen sich Sorgen über potenzielle Probleme in den Bereichen geistiges Eigentum und Datensicherheit. TCS blickt auf eine lange Erfolgsbilanz zurück, wenn es darum geht, technologische Innovationen auf sichere Art und Weise einzusetzen, um so die Anforderungen von Kunden zu erfüllen und sie in die Lage zu versetzen, sich auf Geschäftsergebnisse zu konzentrieren. Mit Nutanix GPT-in-a-Box in Verbindung mit TCS Cognix, einer zukunftsfähigen Plattform für die Bereitstellung von Services, können Kunden den Wertschöpfungsbeitrag von künstlicher Intelligenz und maschinellem Lernen realisieren, indem sie in Organisationen für resiliente Dienste, geschäftliche Agilität und eine bessere Kundenerfahrung sorgen.“

• Dinanath Kholkar, SVP and Global Head of Partner Ecosystems & Alliances bei TCS

• „Von dem Potenzial generativer KI zu profitieren, stellt eine der größten Chancen dar, die sich globalen Unternehmen heute bieten, und es kommt dabei darauf an, den richtigen Partner zu finden, der diese Reise begleitet. Die Nutanix-Lösung GPT-in-a-Box kann in Kombination mit Beratungsservices und Lösungen von Hexaware dazu beitragen, diese KI-Reise zu beschleunigen, indem sie einige der wichtigsten Herausforderungen in den Bereichen Personalbedarf, Sicherheit, Compliance, Bereitstellung und Skalierung meistert, mit denen sich Unternehmen heutzutage konfrontiert sehen.“

–      Vinod Chandran, COO von Hexaware

• „Generative KI steht bei vielen Unternehmen ganz oben auf der Agenda, aber die meisten von ihnen verfügen nicht über die internen Ressourcen, um von dieser Chance zu profitieren. Nutanix GPT-in-a-Box vereinfacht in Kombination mit Lösungen von DKube die KI-Einführung in Unternehmen mithilfe eines für KI optimierten Stacks, um Innovationen in kürzester Zeit an den Start zu bringen.“

• Prasad Vellanki, CEO von DKube

Nutanix GPT-in-a-Box addresses the complexity, scaling, and security challenges that enterprises face when adopting generative AI and AI/ML applications. Nutanix GPT-in-a-Box is a full-stack software-defined AI-ready platform with services designed to simplify and jump-start your initiatives from edge to core.

With Nutanix GPT-in-a-Box you can:

• Maintain AI content exclusive to your organization in order to help meet security, privacy and compliance requirements
• Simplify AI-ready infrastructure to build, fine-tune, and run models, including GPTs and LLMs, while continuing to use existing teams and skills
• Optimize IT costs with a software-defined cloud operating model

Why Nutanix for AI?

Nutanix is an active contributor to the AI/ML open-source software (OSS) community and brings this expertise to customers looking to run and manage AI applications with control over their data solutions. Key contributions in this area by Nutanix include participation in the MLCommons advisory board, co-founding and providing technical leadership in defining the ML Storage Benchmarks and Medicine Benchmarks, serving as a co-chair of the Kubeflow Training and AutoML working groups, and being a top 10 contributor to Kubeflow, a CNCF incubation.

This industry expertise led to the creation of Nutanix GPT-in-a-Box to simplify and integrate the layers needed to build a complete AI solution. Nutanix enterprise-class data services are extended seamlessly to AI/ML applications. For data scientists, Nutanix GPT-in-a-Box removes the cognitive burden of operations with a cloud operating model on-prem. This solution increases cost efficiency for line of business owners and simplifies the delivery of resilient infrastructure.

The Nutanix GPT-In-a-Box solution builds on the full stack scalability, performance, resilience and ease of use that the Nutanix Cloud Platform is known for. Nutanix’s expertise with scalable infrastructure across public cloud, datacenter and edge use cases delivers the ideal environment to fine-tune and run AI applications while maintaining control over the data. In fact, in a recent survey, 78% of Nutanix customers indicated they were likely to run their AI/ML workloads on the Nutanix Cloud Platform.

Nutanix’s expertise and involvement in the open source AI community provide customers with a strong foundation on which to build their AI strategy. Key contributions include: participation in the MLCommons (AI standards) advisory board; co-founding and technical leadership in defining the ML Storage Benchmarks and Medicine Benchmarks; serving as a co-chair of the Kubeflow (MLOps) Training and AutoML working groups at the Cloud Native Computing Foundation (CNCF).

The Nutanix GPT-in-a-Box solution is available to customers today. Customers looking to get started can find more information here.

Supporting Quotes:

• “Red Hat is helping organizations across various industries to accelerate business and mission-critical initiatives through the development and deployment of AI-enabled applications in the hybrid cloud. With this launch, joint customers can take advantage of Red Hat OpenShift AI along with the Nutanix AI-ready stack to jump-start innovation on a consistent, scalable open source foundation while maintaining control over their data.”
  – Sarwar Raza, Vice President, Cloud Services, Red Hat
• “Enterprises everywhere are looking to leverage the generative AI opportunity but many, especially in regulated industries, are concerned with potential IP and data security issues. TCS has a long track record of embracing technology innovations in a secured manner to satisfy customer demand and enable them to focus on business outcomes. Nutanix GPT-in-a-Box along with TCS Cognix™, a future-ready service delivery platform, allows customers to realize the value of artificial intelligence and machine learning by providing service resiliency, business agility, and enhanced customer experience to organizations.”
  – Dinanath Kholkar, SVP and Global Head of Partner Ecosystems & Alliances at TCS
• “Taking advantage of the potential of generative AI is one of the most significant opportunities available to global enterprises today, and finding the right partner to guide this journey is crucial. Nutanix GPT-in-a-Box, along with consulting and solutions from Hexaware, can help jump-start this AI journey by addressing some of the key talent, security, compliance, deployment and scale challenges they’re facing today.”
  – Vinod Chandran, COO, Hexaware
• “Generative AI is top of mind for many enterprises, but most don’t have the in house resources to fully take advantage of this opportunity. Nutanix GPT-in-a-Box, along with solutions from DKube, simplifies enterprise AI adoption with an AI-ready stack to jumpstart innovation.”
  – Prasad Vellanki, CEO, DKube
• “Generative AI, including Chat-GPT and LLMs, are revolutionizing the way enterprises operate but many require support to best take advantage of this opportunity. Lamini makes enterprise LLMs easier while Nutanix delivers AI-ready infrastructure to help organizations simplify operations and maintain control over their data significantly simplifying adoption of generative AI.“
  – Greg Diamos, Co-Founder, Lamini and ML Commons