Cómo los líderes de infraestructura de Fortune 500 se están preparando para la IA

La semana pasada, los dos participamos en un panel en Cisco Live, junto con líderes de redes de Home Depot y Disney. La sesión fue una oportunidad para que los líderes de redes e infraestructura dejaran de contenerse y comenzaran a hablar con franqueza sobre lo que realmente piensan de la IA como herramienta para gestionar la infraestructura de red.

En nuestras conversaciones con decisores de redes e infraestructura, algunos temas aparecen repetidamente. Están entusiasmados con las oportunidades de la IA, pero también se sienten abrumados. Muchos están preocupados por estar quedándose atrás frente a las innovaciones más recientes y avanzadas de IA para redes. Y tampoco saben muy bien qué hacer al respecto.

A pesar de esta incertidumbre, hay algo que sabemos: la IA cambió fundamentalmente las redes empresariales, porque cambió dónde viven los datos. Una arquitectura legacy hub-and-spoke tenía sentido cuando los datos permanecían principalmente en el hub. Ahora, los datos están en todas partes. Las empresas necesitan infraestructura distribuida para llegar a los datos dondequiera que estén y moverlos hacia donde deban ir.

Analicemos más de cerca cómo los líderes de infraestructura de Fortune 500 se están adaptando a este nuevo panorama de IA. Sigue leyendo para conocer cuatro escenarios representativos de nuestras conversaciones con líderes empresariales, y lo que podrían significar para tu propia preparación para la IA.

Escenario n.º 1: Optimización para la flexibilidad

Lo que escuchamos:

Siempre estamos trabajando para garantizar que los usuarios tengan acceso a los modelos de IA más nuevos y avanzados en todo momento, solo para descubrir que el “modelo de la semana” ha cambiado otra vez. Nos cuesta seguir el ritmo de esa demanda. Nunca sabemos si estamos preparados para dar soporte a nuevos modelos de diferentes proveedores, con las protecciones adecuadas implementadas.

Lo que significa:

Cuando no sabes exactamente cómo serán tus necesidades futuras de IA, lo mejor que puedes hacer es planificar una infraestructura flexible, para estar preparado para lo que venga después. Esta es una de las razones por las que las empresas deberían usar modelos privados y públicos alojados en entornos de nube privada y pública. Esto es esencial para evitar la dependencia de un modelo o proveedor específico.

Al usar una infraestructura híbrida con entornos públicos y privados, es más fácil equilibrar rendimiento, flexibilidad y seguridad. Si construyes tu infraestructura híbrida de IA sobre una base que controlas, podrás usar soluciones de conectividad neutrales respecto de los proveedores, que permiten reconfigurar o redimensionar tus conexiones de nube bajo demanda.

Escenario n.º 2: Llegar a la raíz del problema

Lo que escuchamos:

Cuando nuestra infraestructura de IA no funciona correctamente, es difícil saber exactamente cómo responder. Muchas veces, el problema termina siendo algo completamente diferente de lo que pensábamos inicialmente. Cuando usamos herramientas de IA para solucionar problemas en nuestra infraestructura, no siempre son tan útiles como imaginábamos.

Lo que significa:

Los líderes de infraestructura lidian con este tipo de incertidumbre todos los días. En algunos aspectos, la IA ha empeorado el problema cien veces. La IA puede ayudar en la resolución de problemas de la infraestructura empresarial, pero los líderes humanos deben tener cuidado al interpretar y aplicar insights generados por IA. La expertise humana es fundamental para interpretar los resultados de la IA.

El desafío es que los modelos de IA generativa tienden a complacer a las personas. Cuando estás intentando resolver un problema de infraestructura, el modelo siempre presentará algo que suena como una solución plausible. No deberías aceptar estas respuestas al pie de la letra, incluso cuando parecen confirmar tus percepciones iniciales.

Depende de ti determinar si la solución realmente tiene sentido, con base en lo que sabes sobre tu infraestructura. También es necesario formular cuidadosamente los prompts para darles a los modelos todo el contexto de los problemas que intentas resolver.

Escenario n.º 3: Abordar la shadow AI

Lo que escuchamos:

Durante años, tuvimos una mentalidad de “tierra sin ley” respecto de la IA. Aunque contamos con un equipo de gobernanza responsable de supervisar la política de IA, aplicar esas directrices es prácticamente imposible. Las personas podían hacer lo que quisieran, y eso es lo que nos quita el sueño.

Lo que significa:

Los usuarios están acostumbrados a probar diferentes modelos de IA en su vida personal, así que no sorprende que esa mentalidad también llegue al trabajo. Usan los modelos que quieren, cuando y donde quieren, sin pedir permiso ni esperar orientación. Esta llamada “shadow AI” puede generar costos más altos, introducir problemas de privacidad de datos y dificultar la garantía de resultados consistentes.

Independientemente de quién supervise la política de IA dentro de una organización, hay algo claro: la red es la base que permite la innovación en IA al mismo tiempo que limita los riesgos. Como los líderes de redes tienen visibilidad sobre dónde se ejecutan las cargas de trabajo de IA y cómo se mueven los datos entre ellas, merecen un lugar en la mesa cuando llegue el momento de formular una estrategia integral de infraestructura de IA.

La organización también debe definir expectativas claras sobre cómo los ingenieros de redes pueden usar IA de manera responsable y garantizar que tengan herramientas disponibles alineadas con esas expectativas.

Además, si los ingenieros de redes están usando IA para escribir código, deberían hacerlo como parte de un pipeline colaborativo de desarrollo, en lugar de dejar el código almacenado en sus propias laptops. Esto les da a los desarrolladores reales la oportunidad de opinar y resolver cualquier problema que identifiquen en el código.

Escenario n.º 4: Conectarse rápidamente a ecosistemas de IA

Lo que escuchamos:

Recientemente, nuestros ejecutivos decidieron que necesitamos adquirir GPUs de un determinado proveedor de neocloud. Nunca nos hemos conectado con esa neocloud antes, así que no sabemos exactamente cómo proceder. De hecho, hemos trabajado principalmente con un hyperscaler de nube específico durante años, por lo que conectarnos a cualquier cosa fuera de ese ecosistema se siente nuevo y extraño. ¿Cómo hacemos las conexiones correctas, de forma rápida y segura?

Lo que significa:

Garantizar el acceso a los socios adecuados del ecosistema es una parte esencial de la flexibilidad de la infraestructura. Como se mencionó anteriormente, las soluciones de conectividad neutrales son ideales para la IA, porque permiten conectarse rápidamente con nuevos socios cada vez que surge la necesidad, sin que la dependencia de un proveedor se interponga.

Incluso con la mejor conectividad posible, la proximidad física sigue siendo importante. La distancia inevitablemente genera latencia. Por eso, elegir quiénes son tus socios de ecosistema es solo la mitad de la batalla. Es igualmente importante determinar dónde están esos socios y posicionar tus cargas de trabajo de IA en consecuencia.

Implementar infraestructura privada de IA en un proveedor global de colocation puede ayudar. Puedes tener la confianza de saber que miles de socios potenciales del ecosistema de IA ya están implementados con ese mismo proveedor. Por ejemplo, el ecosistema de Equinix alberga neoclouds como CoreWeave, Crusoe, Denvr Dataworks, GroqCloud, Lambda Labs y Nebius, además de todos los principales hyperscalers de nube.

Comienza hoy con infraestructura distribuida de IA

La IA no es una solución mágica para todos los desafíos de infraestructura que enfrentan los equipos de TI empresarial. De hecho, muchas veces agrava esos problemas. Pero los equipos que hoy se concentran en optimizar la flexibilidad de su infraestructura estarán mejor posicionados para superar los desafíos de la IA, al mismo tiempo que aprovechan nuevas oportunidades impulsadas por IA a medida que surjan.

Equinix reconoce el papel fundamental que desempeña la red para habilitar una infraestructura preparada para la IA. Esto comienza con hubs de interconexión en los lugares correctos, no solo en algunos lugares centrales, como ocurriría en una WAN tradicional. Con infraestructura distribuida en el edge, las empresas pueden acercarse a todos los diferentes lugares donde necesitan:

• Recopilar datos de varias fuentes
• Realizar inferencia de IA en tiempo casi real
• Conectarse con diversos usuarios finales y socios

Conoce más sobre por qué los hubs de interconexión distribuidos son tan importantes para los líderes empresariales que intentan prepararse para la IA. Lee el resumen de caso de uso, “Optimiza tu red global para la IA”.