vshosting NVIDIA H200

Generative KI wird in Zukunft eine immer wichtigere Rolle spielen – sie eröffnet Unternehmen aller Branchen neue Möglichkeiten. Um KI optimal nutzen zu können, benötigen Unternehmen jedoch mehr Rechenressourcen und die Möglichkeit einer größeren und flexibleren Skalierung, um den Anforderungen ständig wachsender, unterschiedlicher und komplexer Workloads gerecht zu werden.

Als erste Grafikkarte mit HBM3e bietet der NVIDIA H200 die optimale Grundlage für die nächste Generation KI-fähiger Anwendungen und großer Sprachmodelle (Large Language Models, LLMs). Gleichzeitig beschleunigt sie wissenschaftliche Berechnungen für HPC-Workloads.

„Im deutschsprachigen Markt gibt es nur sehr wenige Anbieter, die diese Lösung überhaupt anbieten können. Die Aufnahme der H200 in unser Portfolio ist für uns daher ein entscheidender Schritt, um unseren Einfluss in der DACH-Region auszubauen und verschafft uns einen entscheidenden Wettbewerbsvorteil im Server- und Cloud-Business“, erklärt Damir Špoljarič, Co-Founder & CEO von vshosting.

Der wesentliche Unterschied zwischen dem H100 und dem H200 liegt im größeren Speicher: Der Speicher des H200 ist mit 141 GB HBM3e deutlich größer und schneller als der 80 GB HBM3 des H100. Darüber hinaus verfügt die H200 über eine Speicherbandbreite von 4,8 TB/s im Vergleich zu 2 TB/s bei der H100.

Dieses Upgrade wird die Leistung von Server- und KI-Operationen verbessern, insbesondere bei speicherintensiven Anwendungen. Laut NVIDIA wird die allgemeine Rechenleistung im High Performance Computing um 18 % gesteigert. Bei KI-Modellen wie Llama2 mit 13 Milliarden Parametern beträgt die Steigerung 40 %, bei 70 Milliarden Parametern 90 % und bei 175 Milliarden Parametern 60 %. Bei Inferenzberechnungen für GPT-3 mit 175 Milliarden Parametern steigt die Leistung ebenfalls um 60 %.

Neben dem H200 und H100 bietet vshosting auch die L40S Lösung von NVIDIA an. Die drei GPU-Server unterstützen eine Vielzahl von Betriebssystemen wie Ubuntu/Linux oder Windows und können auch in Kombination mit Proxmox eingesetzt werden. vshosting unterstützt Unternehmen beim kostengünstigen Umstieg auf GPU-Server und bietet auf Wunsch auch individuelle Konfigurationen an.

Das Expertenteam hilft nicht nur bei der Einrichtung und Migration, sondern steht auch während der gesamten Laufzeit mit technischem Support rund um die Uhr zur Verfügung. So ist ein dauerhaft reibungsloser Betrieb gewährleistet.

Die hohen Kosten und langen Vorlaufzeiten, die mit der Anschaffung von GPU-Servern verbunden sind, machen eine individuelle Anschaffung für viele Unternehmen nahezu unmöglich. Aus diesem Grund bietet vshosting GPU-Server in zwei Varianten an: als dedizierten Server und als GPU-as-a-Service. Mit diesem flexiblen GPU Server Mietservice müssen Unternehmen weder Hardware kaufen noch verwalten.

Der Vorteil dieses Services liegt nicht nur in der kurzen Lieferzeit, die vshosting durch die Partnerschaft mit Lenovo erreicht, sondern auch in der Möglichkeit, einen GPU-Server unverbindlich zu mieten. So können sich Unternehmen bereits ab 26 Euro pro Tag von der Leistungsfähigkeit überzeugen. Zudem können Kunden die Recheneinheiten bei Bedarf jederzeit flexibel durch zusätzliche GPUs nach oben oder unten skalieren.

Generative AI will play an increasingly important role in the future, creating new opportunities for businesses across all industries. However, to get the most out of AI, organizations need more computing resources and the ability to scale up and out more flexibly to meet the demands of ever-increasing, diverse and complex workloads.

As the first graphics card with HBM3e, the NVIDIA H200 provides the optimal foundation for the next generation of AI-enabled applications and large language models (LLMs). It also accelerates scientific computing for HPC workloads.

„There are very few vendors in the German-speaking market that can even offer this solution. The addition of the H200 to our portfolio is therefore a decisive step for us to expand our influence in the DACH region and gives us a decisive competitive advantage in the server and cloud business,“ explains Damir Špoljarič, co-founder & CEO of vshosting.

The main difference between the H100 and the H200 is the larger memory: with 141 GB HBM3e, the memory of the H200 is significantly larger and faster than the 80 GB HBM3 of the H100. In addition, the H200 has a memory bandwidth of 4.8 TB/sec compared to 2 TB/sec for the H100.

This upgrade will improve the performance of server and AI operations, especially for memory-intensive applications. According to NVIDIA, overall compute performance in high performance computing will increase by 18%.

For AI models such as Llama2 with 13 billion parameters, the increase is 40%; for 70 billion parameters, 90%; and for 175 billion parameters, 60%. Inference calculations for GPT-3 with 175 billion parameters also increase performance by 60%.

In addition to the H200 and H100, vshosting also offers NVIDIA’s L40S solution. The three GPU servers support a variety of operating systems such as Ubuntu/Linux or Windows and can also be used in combination with Proxmox. vshosting supports companies in the cost-effective transition to GPU servers and also offers individual configurations on request.

The team of experts not only helps with setup and migration, but also provides round-the-clock technical support during the entire runtime. This ensures smooth operation over the long term.

The high costs and long lead times associated with the purchase of GPU servers make it almost impossible for many companies to purchase them individually. For this reason, vshosting offers GPU servers in two variants: as dedicated server and as GPU-as-a-Service. With this flexible GPU server rental service, companies do not have to purchase or manage hardware.

The advantage of this service is not only the short delivery time that vshosting achieves through its partnership with Lenovo, but also the ability to rent a GPU server without any commitment. This means that companies can see the performance for themselves from as little as 26 euros per day. In addition, customers can flexibly scale the computing units up or down with additional GPUs at any time.