Elastic Search AI Lake

Damit kombiniert Elastic die massive Speicherkapazität eines Data Lakes mit leistungsfähigen Search- und KI-Relevanz-Funktionen von Elasticsearch. Dies lässt sich eine hohe Abfrage-Performance realisieren, ohne den Verlust von Skalierbarkeit, Relevanz oder Erschwinglichkeit zu riskieren.

Search AI Lake bietet unter anderem folgende Vorteile:

• Grenzenlose Skalierbarkeit und Entkopplung von Rechenleistung und Speicherung: Die komplette Entkopplung von Speicherung und Rechenleistung bei Nutzung von Objektspeichern ermöglicht problemfreie Skalierbarkeit und Zuverlässigkeit. Das dynamische Caching unterstützt hohe Durchsatzraten, häufige Aktualisierungen und das interaktive Suchen in großen Datenbeständen. Damit entfällt die Notwendigkeit, Indexierungsoperationen über mehrere Server hinweg zu replizieren, was Kosten spart und die Menge an doppelten Daten reduziert.

• Echtzeit-Performance mit geringer Latenz: Eine Reihe von Verbesserungen sorgt für exzellente Abfrage-Performance, selbst dann, wenn die Daten in sicheren Objektspeichern platziert sind. Dazu gehört die Einführung von Smart Caching und die Abfrageparallelisierung auf Segmentebene. Dies reduziert die Latenz durch einen schnelleren Datenabruf und die rasche Verarbeitung von mehr Anfragen.

• Unabhängige Skalierung von Indexierung und Abfragebearbeitung: Dadurch, dass Indexierung und Low-Level Suche voneinander getrennt werden, ist die Plattform in der Lage, unabhängig und automatisch zu skalieren. Dadurch wird sie den verschiedensten Anforderungen von Workloads gerecht.

• Native Inferenz- und Vektorsuche, optimiert durch generative KI: Nutzer:innen steht eine native Suite leistungsfähiger KI-gestützter Relevanz-, Abruf- und Reranking-Funktionen zur Verfügung. Dazu gehören eine vollständig in Lucene integrierte, native Vektordatenbank, offene Inferenz-APIs, semantische Suche sowie Erst- und Drittanbieter-Transformator-Modelle, die nahtlos mit allen Suchfunktionen zusammenarbeiten.

• Leistungsstarke Abfragesprache und Analytics-Funktionen: Die Integration der leistungsstarken Abfragesprache ES|QL von Elasticsearch kommt mit effektiven, aussagekräftigen und effizienten Analysen, unabhängig von Datenquelle und ‑struktur. Die uneingeschränkte Unterstützung für präzise und effiziente Volltextsuchen und Zeitreihenanalysen ermöglicht es zudem, Muster in raumbezogenen Analysen zu identifizieren.

• Natives Machine Learning: Für bessere Prognosen haben Nutzer:innen die Möglichkeit, Machine-Learning-Funktionen zu erstellen, einzusetzen und zu optimieren, die dann auf alle Daten angewendet werden können. Vordefinierte Threat-Detection-Regeln können problemlos auf historische Informationen angewendet werden, die viele Jahre alt sein können, und Security-Analyst:innen so bei der Arbeit unterstützen. Hinzu kommt die in beinahe Echtzeit durchgeführte Anomalieerkennung durch nicht überwachte Modelle, mit der Daten aus viel längeren Zeiträumen überwacht werden können, als bei anderen SIEM-Plattformen.

• Echt verteilt – regionsübergreifend, cloudbasiert oder hybrid: Daten können von einer zentralen Benutzeroberfläche aus in der Region oder in dem Rechenzentrum abgefragt werden, in dem sie generiert wurden. Durch die clusterübergreifende Suche (CCS) entfällt die Notwendigkeit, die Daten zu zentralisieren oder zu synchronisieren. Das bedeutet, dass Daten jeden Formats unmittelbar nachdem Hinzufügen normalisiert, indexiert und optimiert werden. Dies sorgt für extrem schnelle Abfrage- und Analyseergebnisse – und das alles bei geringeren Kosten für die Übertragung und Speicherung von Daten.

Search AI Lake bildet die Grundlage für das neue Elastic Cloud Serverless: Dank der Geschwindigkeit und Skalierbarkeit der innovativen Architektur wird operativer Overhead entfernt, damit Nutzer:innen schnell und nahtlos Workloads starten und skalieren können. Alle Operationen, vom Monitoring und Backup bis zur Konfiguration und zum Sizing, werden von Elastic verwaltet – die Nutzer:innen brauchen nur ihre Daten beizusteuern und sich für Elasticsearch, Elastic Observability oder Elastic Security auf Serverless zu entscheiden.

„Es ist klar, dass für die Anforderungen von immer mehr KI- und Echtzeit-Workloads eine neue Architektur gebraucht wird, die sowohl dem Rechenleistungs- als auch dem Speicherplatzbedarf gewachsen ist und dies in Enterprise-fähiger Geschwindigkeit und Größe“, so Ken Exner, Chief Product Officer bei Elastic. „Anbieter traditioneller Data Lakes haben immer wieder behauptet, diese Anforderungen zu erfüllen, scheitern aber regelmäßig bei Echtzeitanwendungen – Search AI Lake zeigt nun, wie es geht. Diese neue Architektur und die Serverless-Projekte, die auf ihr aufbauen, sind genau das, was für die Search-, Observability- und Security-Workloads von morgen gebraucht wird.“

With the expansive storage capacity of a data lake and the powerful search and AI relevance capabilities of Elasticsearch, Search AI Lake delivers low-latency query performance without sacrificing scalability, relevance, or affordability.

Search AI Lake benefits include:

• Boundless scale, decoupled compute and storage: Fully decoupling storage and compute enables effortless scalability and reliability using object storage, dynamic caching supports high throughput, frequent updates, and interactive querying of large data volumes. This eliminates the need for replicating indexing operations across multiple servers, cutting indexing costs and reducing data duplication.

• Real-time, low latency: Multiple enhancements maintain excellent query performance even when the data is safely persisted on object stores. This includes the introduction of smart caching and segment-level query parallelization to reduce latency by enabling faster data retrieval and allowing more requests to be processed quickly.

• Independently scale indexing and querying: By separating indexing and search at a low level, the platform can independently and automatically scale to meet the needs of a wide range of workloads.

• GAI optimized native inference and vector search: Users can leverage a native suite of powerful AI relevance, retrieval, and reranking capabilities, including a native vector database fully integrated into Lucene, open inference APIs, semantic search, and first- and third-party transformer models, which work seamlessly with the array of search functionalities.

• Powerful query and analytics: Elasticsearch’s powerful query language, ES|QL, is built in to transform, enrich, and simplify investigations with fast concurrent processing irrespective of data source and structure. Full support for precise and efficient full-text search and time series analytics to identify patterns in geospatial analysis are also included.

• Native machine learning: Users can build, deploy, and optimize machine learning directly on all data for superior predictions. For security analysts, prebuilt threat detection rules can easily run across historical information, even years back. Similarly, unsupervised models perform near-real-time anomaly detections retrospectively on data spanning much longer time periods than other SIEM platforms.

• Truly distributed – cross-region, cloud, or hybrid: Query data in the region or data center where it was generated from one interface. Cross-cluster search (CCS) avoids the requirement to centralize or synchronize. It means within seconds of being ingested, any data format is normalized, indexed, and optimized to allow for extremely fast querying and analytics. All while reducing data transfer and storage costs.

Search AI Lake powers a new Elastic Cloud Serverless offering that harnesses the innovative architecture’s speed and scale to remove operational overhead so users can quickly and seamlessly start and scale workloads. All operations, from monitoring and backup to configuration and sizing, are managed by Elastic – users just bring their data and choose Elasticsearch, Elastic Observability, or Elastic Security on Serverless.

“To meet the requirements of more AI and real-time workloads, it’s clear a new architecture is needed that can handle compute and storage at enterprise speed and scale – not one or the other,” said Ken Exner, chief product officer at Elastic. “Search AI Lake pours cold water on traditional data lakes that have tried to fill this need but are simply incapable of handling real-time applications. This new architecture and the serverless projects it powers are precisely what’s needed for the search, observability, and security workloads of tomorrow.”