Acelerar la innovación de la IA requiere ecosistemas e infraestructura

Comprometerse con socios tecnológicos en ecosistemas digitales e implementar infraestructura de TI avanzada para impulsar la IA

Kaladhar Voruganti
Acelerar la innovación de la IA requiere ecosistemas e infraestructura

El advenimiento de ChatGPT ahora ha tomado la corriente principal de la IA generativa. Muchas organizaciones se están enfocando en acelerar sus iniciativas de IA para servir mejor a los clientes, empleados y socios. Todas las funciones organizativas (incluidas ventas, marketing, finanzas, soporte, operaciones, TI y desarrollo de productos) buscan utilizar la IA para optimizar y mejorar sus flujos de trabajo internos.

La pregunta es: ¿Tendrán estas organizaciones los conjuntos de habilidades, sistemas e infraestructura necesarios para manejar la interrupción masiva que la IA tendrá en sus modelos operativos? La creación de soluciones de IA escalables requiere que las empresas se adapten a la ingesta, el intercambio, el almacenamiento y el procesamiento de conjuntos de datos enormes y diversos, al mismo tiempo que tienen en cuenta la sostenibilidad. Nos referimos a ella como una IA de grado de producción.

En la Encuesta global de tendencias tecnológicas de Equinix 2023 (GTTS), aprendimos que el 42 % de los líderes de TI creen que su infraestructura de TI existente no está completamente preparada para adaptarse a la creciente adopción de la IA. Además, el 41 % duda de la capacidad de su equipo para implementar la tecnología. Participar en ecosistemas digitales y elegir los socios tecnológicos adecuados puede ser fundamental para ayudar a las organizaciones a implementar la infraestructura adecuada en los lugares adecuados, cuando más la necesitan. En efecto, su ecosistema se convierte en su infraestructura.

Encuesta de tendencias tecnológicas globales 2023 de Equinix

Las ventajas y los retos de las nuevas tecnologías digitales, y estrategias de futuro

Descargar Ahora
Equinix 2023 Global Tech Trends Survey

La implementación de la IA de nivel de producción presenta nuevos desafíos

Los equipos de TI están comenzando a apoyar el uso de tecnologías de IA en sus organizaciones. Se enfrentan a un conjunto completamente nuevo de desafíos en torno a costos, rendimiento, intercambio de datos, brechas de habilidades y sustenibilidad.

Modelos de costos predecibles

Las organizaciones tienen las siguientes preocupaciones relacionadas con los costos en torno a la IA:

A mediados de esta década, la mayoría de los datos se generarán fuera del data center. El costo del backhaul de los datos generados en el perímetro y enviados al núcleo puede ser prohibitivo. Si los datos se generan en la nube, tiene sentido procesar los datos en la nube. Sin embargo, si los datos se generan en el perímetro, deben almacenarse y procesarse en el perímetro. Por lo tanto, las arquitecturas de IA centralizadas no escalarán con respecto al costo y el rendimiento.

Las empresas también quieren un modelo de costos fijos predecible para su infraestructura de IA. Con un modelo de costos fijos, se sabe de antemano cuánto costará su infraestructura de IA cada trimestre fiscal. Es decir, el costo no varía según el número de desarrolladores o el número de cargas de trabajo o trabajos. Además, las nubes tienen costos variables, como el costo de acceso a los datos y los costos de salida. Existe un cargo por cada solicitud de datos al almacenamiento y por mover los datos (salida) de la nube. En función de la carga de trabajo, estos costos variables pueden convertirse en un porcentaje mayor del costo total de almacenamiento.

Optimización del rendimiento de la IA

Las organizaciones están encontrando barreras para el alto rendimiento por las siguientes razones:

  • Acceso a la última tecnología de GPU: Los trabajos de capacitación en IA toman menos tiempo con la tecnología de GPU más nueva, pero cada vez es más difícil acceder a la última tecnología de GPU en la nube. Trabajar con una generación anterior de tecnología de IA aumenta el costo de las ejecuciones de capacitación de IA del cliente.
  • Latencia/rendimiento de inferencia: Cuando los datos se generan en el perímetro, mover estos datos a una ubicación centralizada para la inferencia de la IA aumenta la latencia de respuesta.
  • Varianza en el sistema y la arquitectura de implementación: Incluso si los proveedores de GPU, los OEM y las nubes usan el mismo tipo de GPU, habrá una diferencia en el rendimiento general de estas implementaciones debido a la arquitectura de interconexión de las GPU a las redes, el almacenamiento y otras GPU en el clúster. Esta diferencia en el rendimiento se aplica si el sistema de IA se implementa en una infraestructura dedicada o compartida, y si hay una capa de virtualización o si el sistema se ejecuta en hardware completo.

Desafíos del intercambio de datos

En muchos casos, las organizaciones necesitan aprovechar datos externos (p. ej., datos meteorológicos, datos de tráfico, etc.) para mejorar la precisión de sus modelos de IA. Para la mayoría de los proyectos de IA, no se construye un modelo de IA desde cero. En su lugar, se utiliza un modelo de IA externo como punto de partida y, posteriormente, se personaliza ese modelo con sus datos privados. Por lo tanto, las organizaciones deben conocer el linaje de los datos externos y los modelos que utilizan para garantizar que no infrinjan ninguna normativa de cumplimiento y para protegerse de los datos corruptos manipulados por agentes malintencionados. Esto será especialmente cierto una vez que las personas comiencen a aprovechar los modelos básicos basados en código abierto.

Del mismo modo, muchas organizaciones también quieren monetizar sus datos con partes externas. Sin embargo, estos proveedores de datos quieren tener control sobre los datos que planean compartir, en casos de uso no autorizados o reenviar estos datos a actores que no pagan. A menos que se superen estos desafíos de intercambio de datos, esto inhibirá el uso de la IA en entornos empresariales.

Escasez de habilidades

A la mayoría de las organizaciones les resulta difícil encontrar trabajadores calificados en IA. El 45 % de los líderes de TI informaron que su mayor desafío de habilidades es la velocidad a la que se está transformando la industria tecnológica. Las empresas necesitan arquitectos empresariales con conocimientos sobre arquitecturas emergentes de hardware y software de IA, científicos de datos, ingenieros de datos y conservadores de datos para trabajar en proyectos de IA.

Las soluciones de IA generativa, en muchos casos, ayudan a llevar la tecnología de IA a los expertos en la materia y a los usuarios finales de manera fluida. Además, muchas empresas de software como servicio brindan a las empresas soluciones que ya incorporan funciones de IA.

Habilitación de la sostenibilidad/IA verde

Las organizaciones reconocen la necesidad de hacer IA de manera sostenible y quieren hacer su parte. Cada vez más, las organizaciones deben mostrar la huella de carbono de su infraestructura de TI a clientes, empleados y socios. La GTTS informó que menos de la mitad de los tomadores de decisiones de TI (47 %) confían en que su negocio puede satisfacer la demanda de los clientes por prácticas más sostenibles.

Los racks de entrenamiento de IA consumen >30 kVA por rack y el enfriamiento por aire se vuelve ineficiente; los kVA más altos por rack requieren refrigeración líquida. La mayoría de los centros de datos privados (internos) no están equipados para manejar estos racks de IA que consumen mucha energía.

La mayor demanda de transparencia por parte de las partes interesadas también ha generado preocupación por parte de las organizaciones sobre la efectividad del uso del agua (WUE) y la efectividad del uso de la energía (PUE) de los data centers que alojan su infraestructura de TI. Es probable que las partes interesadas también quieran saber qué parte de la infraestructura de TI funciona con fuentes renovables.

¿Está su infraestructura preparada para la IA?

Ejecutar una infraestructura de IA distribuida de alto rendimiento en Platform Equinix ayuda a que los equipos de infraestructura de TI superen la complejidad de la IA y administren volúmenes masivos de datos, lo que libera a las unidades comerciales para que comiencen a darse cuenta del tremendo valor de las soluciones de IA. Participar en ecosistemas digitales le brinda acceso a nuevos socios tecnológicos con soluciones innovadoras que ayudarán a resolver problemas de IA de grado de producción y acelerar las estrategias de IA de su empresa para obtener una ventaja competitiva.

Lea la Encuesta global de tendencias tecnológicas de Equinix 2023 para obtener más información sobre cómo los líderes de TI están avanzando en el ritmo de la innovación y preparando sus estrategias comerciales para el futuro en 2023 y más allá.

Mañana, publicaremos un blog de seguimiento que analiza cuatro casos de uso de implementación distribuida de IA.

También podría interesarle

Lea otros blogs sobre IA de Equinix para aprender cómo las organizaciones están resolviendo otros desafíos de la IA.

Avatar photo
Kaladhar Voruganti Senior Business Technologist
Subscribe to the Equinix Blog