El debate sobre la infraestructura de IA sigue dominado por la computación. Las GPU más rápidas, los clústeres más grandes y las interconexiones más sofisticadas atraen con razón la atención, porque determinan la rapidez con la que se pueden entrenar los modelos y la eficiencia con la que se puede ofrecer la inferencia. Pero a medida que aumenta el rendimiento de computación, otra limitación se hace más visible: la capa de datos que hay debajo. Esto resulta especialmente evidente en la Language AI.
El entrenamiento de modelos de lenguaje avanzados ya exige conjuntos de datos grandes y en continua evolución. Si se suman la voz en tiempo real, los datos de entrenamiento sintéticos, arquitecturas de modelos más grandes y entornos de infraestructura híbridos, las exigencias sobre el almacenamiento cambian de forma significativa. El rendimiento sigue importando, pero también la fiabilidad, la eficiencia de capacidad, la movilidad de los datos y la capacidad de admitir distintos métodos de acceso sin tener que rehacer continuamente la arquitectura que los rodea.
La evolución de la infraestructura de DeepL ofrece un ejemplo útil.
La empresa ha invertido mucho en computación acelerada. Su último sistema NVIDIA DGX SuperPOD, Arion, se basa en la arquitectura NVIDIA Grace Blackwell y supone un gran avance respecto a su sistema anterior, Mercury. DeepL ha señalado que una hipotética traducción de todo internet le llevaría a Mercury 193 días, frente a poco más de 18 días con Arion. El propósito no es la velocidad por la velocidad. Más capacidad de cómputo permite a los investigadores de DeepL entrenar modelos más grandes, trabajar con más datos y explorar nuevas capacidades de Language AI.
Pero una computación más rápida cambia el equilibrio del sistema.
A medida que las GPU pueden procesar más datos, la infraestructura que las alimenta tiene que escalar en consecuencia. Un acelerador de alto rendimiento que espera datos sigue siendo un acelerador infrautilizado. Y si los investigadores tienen que copiar manualmente conjuntos de datos entre ubicaciones, sortear sistemas poco fiables o mantener varios enfoques de almacenamiento para distintas cargas de trabajo, el cuello de botella se traslada de la computación a la arquitectura de datos.
Esta es una de las razones por las que DeepL implanta el AI Operating System de VAST Data como nueva base de datos para sus entornos de investigación y desarrollo. El objetivo no es simplemente añadir más capacidad de almacenamiento, sino crear una capa de datos más fiable, eficiente y flexible, capaz de seguir el ritmo de unas cargas de trabajo de IA cada vez más diversas.
Uno de los elementos más tangibles es la eficiencia de capacidad. Según sus planes de despliegue actuales, DeepL espera obtener aproximadamente el triple de capacidad de almacenamiento a partir de su hardware existente. En lugar de ampliar la infraestructura NVMe física en proporción directa al crecimiento de los datos, la empresa espera extraer sustancialmente más capacidad utilizable del hardware que ya opera.
Eso importa por algo más que el coste del almacenamiento. La infraestructura de IA debe considerarse cada vez más como un sistema completo. Las GPU, las redes, la energía, la refrigeración y la infraestructura de datos suponen inversiones considerables. Mejorar la utilización de una capa puede aumentar la eficiencia de toda la plataforma. También es importante no confundir la eficiencia de capacidad con una simple historia de «más terabytes».
Para los equipos de investigación, la capacidad utilizable adicional significa más espacio para conjuntos de datos, checkpoints de modelos y experimentación. Puede reducir la presión de tener que decidir constantemente qué hay que mover, duplicar o eliminar solo para hacer sitio al siguiente ciclo de entrenamiento. El propio enfoque de DeepL en el desarrollo de modelos lo hace especialmente relevante. La empresa ha descrito el uso de datos sintéticos como una parte fundamental de su metodología de entrenamiento y ha afirmado que sus técnicas pueden multiplicar por 1.000 el volumen de datos de entrenamiento. A medida que crece la capacidad de cómputo, poder generar y trabajar con mayores cantidades de datos de entrenamiento útiles se convierte en una ventaja, pero solo si la infraestructura de datos es capaz de absorberlos.
El segundo aspecto arquitectónico es la relación entre el almacenamiento de archivos y el de objetos. Los entornos de IA rara vez pasan limpiamente de uno a otro. Los investigadores suelen tener flujos de trabajo consolidados basados en interfaces de archivos, herramientas y estructuras de directorios. Al mismo tiempo, el almacenamiento de objetos ha cobrado cada vez más importancia para las arquitecturas de datos de IA escalables y los flujos de trabajo orientados a la nube.
Obligar a una organización de investigación a elegir un modelo y abandonar de inmediato el otro genera una disrupción innecesaria. DeepL utilizará VAST AI OS tanto para almacenamiento de archivos como de objetos, lo que permite que sus flujos de trabajo actuales continúen y, a la vez, abre el camino hacia un mayor uso del almacenamiento de objetos con el tiempo. Lo relevante es que ambos modelos de acceso pueden convivir sobre una plataforma subyacente común, en lugar de requerir silos de datos separados y copias adicionales. Esto es especialmente importante porque el propio movimiento de datos se está convirtiendo en uno de los costes ocultos de la infraestructura de IA.
DeepL planea desplegar inicialmente VAST en sus propios centros de datos y, con el tiempo, ampliar su uso a entornos de nube. El objetivo es ofrecer a los investigadores un acceso más coherente a los datos entre ubicaciones de infraestructura y reducir la copia manual de conjuntos de datos que, de otro modo, puede ralentizar la experimentación.
El entorno general de DeepL ya es híbrido. La empresa ha incorporado AWS como proveedor de infraestructura junto a su propia infraestructura de centros de datos europeos, mientras que sus grandes sistemas de IA incluyen despliegues de NVIDIA DGX SuperPOD.
En un entorno así, copiar los datos cada vez que cambia la computación de lugar no es un modelo escalable a largo plazo. Los conjuntos de datos grandes tardan en transferirse, los duplicados consumen capacidad y cada movimiento adicional introduce otro proceso operativo que los investigadores tienen que gestionar.
La migración es otra parte práctica de la arquitectura. DeepL utiliza VAST SyncEngine para trasladar datos desde su entorno actual a la plataforma de VAST. Así, la transición se trata como parte de la arquitectura de datos y no como un proyecto de migración independiente y gestionado manualmente.
Luego está la fiabilidad. La infraestructura de IA suele evaluarse según el rendimiento máximo, pero las organizaciones de investigación también dependen de un comportamiento predecible. Los trabajos de entrenamiento pueden durar mucho tiempo, distintos equipos acceden repetidamente a los conjuntos de datos y el coste de la inestabilidad de la infraestructura no se limita a la ventana de una caída.
Cuando los investigadores dejan de confiar en la plataforma que tienen debajo, su comportamiento cambia. Crean soluciones alternativas, duplican datos, evitan ciertos flujos de trabajo o dedican tiempo de ingeniería a resolver problemas de infraestructura en lugar de problemas de modelos.
Por eso la fiabilidad de nivel industrial es cada vez más importante a medida que la IA pasa de proyectos de investigación aislados a productos que funcionan de forma continua. Stefan Andresen, Chief Scientist de DeepL, describió el requisito con claridad cuando se anunció el despliegue: DeepL necesita tanto rendimiento como fiabilidad a medida que sus investigadores llevan la Language AI a áreas más exigentes. La IA de voz lo ilustra especialmente bien. DeepL Voice ha extendido la tecnología de la empresa de la traducción escrita a la conversación multilingüe en directo.
Los avances recientes permiten que esta tecnología conserve características de la voz de un hablante entre idiomas. Estas cargas de trabajo requieren considerablemente más datos que el texto por sí solo y plantean exigencias adicionales en el entrenamiento, el acceso a los datos y la infraestructura de producción. Aquí es donde la arquitectura de la capa de datos empieza a importar más que cualquier benchmark de almacenamiento aislado.
La plataforma tiene que dar servicio a investigadores que usan flujos de trabajo familiares, admitir pipelines de IA cada vez más orientados a objetos, ofrecer un rendimiento constante a medida que crecen los conjuntos de datos, aprovechar de forma eficiente la capacidad NVMe existente y, en última instancia, permitir el acceso a los datos entre distintos entornos de infraestructura. Y debe hacerlo todo siendo lo bastante fiable como para que los investigadores no tengan que pensar en ella; esa es la gran lección de infraestructura del despliegue de DeepL.
A medida que la computación de IA sigue acelerándose, las organizaciones no pueden permitirse tratar la capa de datos como una consideración secundaria. Unas GPU más rápidas aumentan el valor de un acceso rápido y fiable a los datos y dejan al descubierto el coste de no tenerlo.
Para organizaciones de investigación como DeepL, el objetivo es sencillo: dar a los científicos acceso fiable a los datos que necesitan, dondequiera que los necesiten, sin obligarlos a rediseñar la infraestructura cada vez que cambia el modelo, la modalidad o el entorno de despliegue.
La infraestructura de IA tiene cada vez más que ver con el equilibrio del sistema y menos con componentes individuales. Un acelerador más rápido no resuelve una ruta de datos más lenta; más capacidad no resuelve un acceso fragmentado; y la flexibilidad de la nube no sirve de nada si cada movimiento exige otra copia de los datos.
Los ganadores serán las arquitecturas que eliminen esos compromisos en lugar de limitarse a trasladar el cuello de botella a otro lugar.
El Dr. Jakob Jung es redactor jefe de Security Storage y Channel Germany. Lleva más de 20 años trabajando en el periodismo especializado en TI. A lo largo de su carrera ha colaborado con Computer Reseller News, Heise Resale, Informationweek, Techtarget (almacenamiento y centros de datos) y ChannelBiz. Además, colabora como freelance con numerosas publicaciones del sector de las TI, entre las que se incluyen Computerwoche, Channelpartner, IT-Business, Storage-Insider y ZDnet. Sus temas principales son el canal, el almacenamiento, la seguridad, los centros de datos, los sistemas ERP y CRM.
Contacto – Contacto por correo electrónico: jakob.jung@security-storage-und-channel-germany.de