KI verändert Infrastruktur – AI transforms infrastructure

Um den Druck und die Möglichkeiten zu verstehen, mit denen Unternehmen heute konfrontiert sind, hat Hitachi Vantara 1.200 in der Studie „State of Data Infrastructure Global Report 2024“ IT-Entscheidungsträger in großen Unternehmen aus 15 Ländern befragt, darunter auch Deutschland. Die gute Nachricht: Innerhalb Europas nimmt Deutschland mit einer KI Adoption von 47 Prozent die Spitzenposition ein und belegt weltweit hinter Singapur und China Platz 3.

Bei der Frage nach dem aktuellen Stand der KI-Nutzung im Unternehmen zeigt sich, dass KI in den deutschen Firmen angekommen ist. Lediglich 3 % befinden sich noch in der Pilotphase von Projekten und 12 % bezeichnen ihre Nutzung in realen Anwendungsszenarien als begrenzt. Hingegen gaben 38 % der Befragten an, bereits Use-Case in großem Maßstab eingeführt zu haben und beinahe die Hälfte (46 %) sieht KI bereits als kritisch für die Unternehmensfunktion. Die zusammengenommen 85 % für die großflächige Einführung oder schon nahezu unverzichtbare Rolle von KI ist Spitze in Europa (gleichauf mit Spanien) und wird weltweit nur von China (90 %) und Singapur (92 %) übertroffen.

Von den deutschen Befragten haben 37 % eine robuste Infrastruktur als ihr Hauptanliegen bei der Implementierung von KI-Projekten identifiziert. Weitere Antworten der deutschen Unternehmen:

* 48 % sagen, Genauigkeit ist wichtig für den KI-Erfolg (weltweit 45 %)

* 48 % sagen, der ROI ist wichtig für den KI-Erfolg (weltweit 37 %)

* Deutsche Unternehmen machen sich weniger Sorgen um Datensicherheit (23% vs. 38 %) und  Datenqualität (16 % vs. 37 %) bei der Betrachtung von KI-Implementierungen.

* Ihr Fokus liegt auf der Einhaltung von Regularien (35 % vs 32 %) und dem Finden von passenden Use-Cases für KI (34% vs. 30%)

* 39 % nutzen alle vier Storage-Plattformen (On-Premises, Public-, Private und Hybrid Cloud) vs. 57% weltweit.

* Die Deutschen führen ihre KI-Erfolge auf ein qualifiziertes KI-Team (38 % vs. 36 %) und eine robuste Infrastruktur (37 % vs. 27 % weltweit) zurück.

* Sie rechnen mit geringeren Investitionen in KI-Infrastruktur und  erwarten ein Wachstum von 78 % bei der Datenspeicherung (vs. 122 %) und ein Wachstum von 90 % bei der Rechenleistung (vs. 122 % weltweit).

Ihre Beobachtungen, Warnungen und Beispiele verdeutlichen, wie wichtig die Dateninfrastruktur für Geschäfts- und IT-Verantwortliche ist, die die Fülle der in ihrem Unternehmen gespeicherten Informationen voll ausschöpfen wollen.

Letztes Jahr rechneten IT-Verantwortliche damit, dass sich die Datenspeicherung innerhalb von zwei Jahren verdoppeln würde. Schon jetzt hat sich ihr Bedarf fast verdreifacht, da die durchschnittliche große Organisation heute 150 Petabytes (Pb) an Daten besitzt. Bis Ende 2026 werden sie voraussichtlich mehr als 300 Pb speichern.

Problem Datenqualität

Eines der überraschendsten Ergebnisse der Studie ist die Diskrepanz zwischen der Aussage vieler IT-Führungskräfte, dass Datenqualität für die Implementierung neuer Technologien wie GenAI unerlässlich ist, und der Tatsache, dass nur wenige der Datenqualität in ihrem Handeln Priorität einräumen.

IT-Entscheidungsträger sind sich bewusst, dass eine erfolgreiche KI-Implementierung von der Qualität der Daten abhängt. Vier von zehn (38 %) nennen die Datenqualität als einen der wichtigsten Faktoren. Es überrascht daher nicht, dass die Qualität der Trainingsdaten für IT-Leiter bei der Implementierung von KI das zweitwichtigste Anliegen ist (37 %), nach der Datensicherheit (38 %).

Obwohl IT-Leiter angeben, dass sie in 76 % der Fälle (bei Verwendung freier Modelle) und in 85 % der Fälle (bei Zusammenarbeit mit globalen Systemintegratoren) Erfolge mit KI erzielen, ist die Messlatte für die Genauigkeit von KI niedrig.

IT-Manager geben an, dass die Ergebnisse nur in 42 % der Fälle korrekt sind. Etwa ein Fünftel der Zeit (21 %) sind sie der Meinung, dass die Modelle „halluzinieren“. Gegenwärtig vertrauen nur 36% der IT-Manager ihren KI-Ergebnissen in mehr als der Hälfte der Fälle. In einigen Branchen wie der Fertigung ist dieser Wert jedoch höher (42 %).

Sicherheit hat Vorrang

75 % der IT-Führungskräfte verbessern KI-Anwendungen durch Feedbackschleifen und kontinuierliches Lernen, aber der Aufbau qualitativ hochwertiger Datensätze muss ein erster Schritt auf diesem Weg sein.

Derzeit überwachen 25 % die Genauigkeit der KI nicht in Echtzeit, und nur 28 % überwachen die Modellgenauigkeit, um ihre Ergebnisse zu erklären, was bedeutet, dass die Modelle wahrscheinlich nicht verbessert werden. Selbst wenn die Datenqualität nicht ausreicht, um die Genauigkeit der KI-Ergebnisse zu gewährleisten, ist dies für viele IT-Manager ein weniger dringliches Thema als die Sicherheit.

Sie befürchten, dass KI für Angriffe auf das Unternehmen von außen genutzt wird, dass KI missbraucht wird oder dass Schwachstellen im Unternehmen entstehen. Sie sind auch besorgt, dass KI selbst auf ihre Datensysteme losgelassen wird und zu unvorhergesehenen Konsequenzen und Sicherheitsrisiken führt.

Sieben von zehn Unternehmen (69 %) geben an, dass sie KI wie Forschung und Entwicklung behandeln und eher längerfristig (in mindestens ein bis zwei Jahren) als sofort einen ROI erwarten.  Geschwindigkeit (41 %) und Kosten (41 %) sind derzeit dringlichere Anliegen als der ROI (37 %), da die IT-Leiter versuchen, KI-Implementierungen schnell zu wiederholen und zu verbessern.

Angesichts der hohen Energiekosten für KI-Schulungen und Experimente scheint auch die Nachhaltigkeit für viele Unternehmen eine untergeordnete Rolle zu spielen. Während die Anforderungen an die Datenspeicherung in einem noch nie dagewesenen Tempo steigen, nimmt auch die Komplexität der Speichersysteme und der Daten selbst zu.

Drei Viertel (76 %) der IT-Manager gaben an, dass mehr als die Hälfte der Daten, die ihr Unternehmen heute speichert, unstrukturiert sind. Daher ist es eine Herausforderung, qualitativ hochwertige Daten für das Training und die Ausführung von KI-Modellen bereitzustellen.

To understand the pressures and opportunities facing organizations today, Hitachi Vantara surveyed 1,200 IT decision makers at large enterprises in 15 countries, including Germany, for the State of Data Infrastructure Global Report 2024. The good news: Germany leads Europe with an AI adoption rate of 47% and ranks third in the world behind Singapore and China.

The question about the current status of AI use in companies shows that AI has arrived in German companies. Only 3% are still in the pilot phase of projects, and 12% describe their use in real application scenarios as limited. In contrast, 38% of respondents indicated that they have already introduced use cases on a large scale, and almost half (46%) already consider AI to be critical for the company’s function. The combined 85% in favor of large-scale adoption or a near-essential role for AI is the highest in Europe (tied with Spain) and is surpassed globally only by China (90%) and Singapore (92%).

Among German respondents, 37% cited a robust infrastructure as their top concern when implementing AI projects. Other responses from German companies include:

* 48% say accuracy is important for AI success (45% globally).

* 48% say ROI is important to AI success (37% globally)

* German companies are less concerned about data security (23% vs. 38%) and * data quality (16% vs. 37%) when considering AI implementations.

* Their focus is on regulatory compliance (35% vs. 32%) and finding appropriate use cases for AI (34% vs. 30%).

* 39% use all four storage platforms (on-premises, public, private and hybrid cloud) vs. 57% globally.

* Germans attribute their AI success to a skilled AI team (38% vs. 36%) and robust infrastructure (37% vs. 27% globally).

* They expect to invest less in AI infrastructure, anticipating 78% growth in data storage (vs. 122% globally) and 90% growth in computing power (vs. 122% globally).

Their observations, warnings, and examples underscore the importance of data infrastructure for business and IT leaders who want to take full advantage of the wealth of information stored in their organizations.

Last year, IT managers predicted that data storage would double within two years. Their needs have already nearly tripled, with the average large organization now holding 150 petabytes (Pb) of data. By the end of 2026, they are expected to store more than 300 Pb.

The data quality problem

One of the most surprising findings of the study is the discrepancy between the statement by many IT leaders that data quality is essential to implementing new technologies such as GenAI, and the fact that few prioritize data quality in their actions.

IT decision makers understand that successful AI implementation depends on data quality. Four in ten (38%) cite data quality as one of the most important factors. Not surprisingly, the quality of training data is the second most important concern for IT leaders when implementing AI (37%), after data security (38%).

Although IT leaders report success with AI 76% of the time (when using free models) and 85% of the time (when working with global system integrators), the bar for AI accuracy is low.

IT managers say the results are correct only 42% of the time. About one-fifth of the time (21%), they believe the models are „hallucinating. Currently, only 36% of IT managers trust their AI results more than half the time. However, in some industries, such as manufacturing, this figure is higher (42%).

Security is a priority

75% of IT leaders are improving AI applications through feedback loops and continuous learning, but building high-quality data sets must be a first step on this journey.

Currently, 25% do not monitor AI accuracy in real time, and only 28% monitor model accuracy to explain their results, meaning models are unlikely to improve. Even if data quality is not sufficient to ensure the accuracy of AI results, this is a less pressing issue for many IT managers than security.

They worry that AI will be used to attack the organization from the outside, that AI will be misused, or that vulnerabilities will be created within the organization. They are also concerned that AI itself will be unleashed on their data systems, leading to unforeseen consequences and security risks.

Seven out of ten organizations (69%) say they are treating AI like research and development, expecting ROI in the longer term (at least one to two years) rather than immediately.  Speed (41%) and cost (41%) are currently more pressing concerns than ROI (37%), as IT leaders seek to rapidly iterate and improve AI deployments.

Given the high energy costs of AI training and experimentation, sustainability also appears to be a secondary concern for many organizations. While data storage requirements are growing at an unprecedented rate, the complexity of storage systems and the data itself is also increasing.

Three-quarters (76%) of IT managers say that more than half of the data their organization stores today is unstructured. Providing high quality data to train and run AI models is a challenge.