Como líderes de infraestrutura da Fortune 500 estão se preparando para a IA

Na semana passada, nós dois participamos de um painel no Cisco Live, ao lado de líderes de rede da Home Depot e da Disney. A sessão foi uma oportunidade para líderes de rede e infraestrutura pararem de se conter e começarem a falar com franqueza sobre o que realmente pensam sobre a IA como ferramenta para gerenciar infraestrutura de rede.

Em nossas conversas com decisores de rede e infraestrutura, alguns temas aparecem repetidamente. Eles estão entusiasmados com as oportunidades da IA, mas também se sentem sobrecarregados. Muitos estão preocupados por já estarem ficando para trás em relação às inovações mais recentes e avançadas de IA para redes. E também não sabem muito bem o que fazer a respeito.

Apesar dessa incerteza, há uma coisa que sabemos: a IA mudou fundamentalmente as redes empresariais, porque mudou onde os dados vivem. Uma arquitetura legada de hub-and-spoke fazia sentido quando os dados ficavam principalmente no hub. Agora, os dados estão em todos os lugares. As empresas precisam de infraestrutura distribuída para alcançar os dados onde quer que estejam e movê-los para onde precisam ir.

Vamos analisar mais de perto como líderes de infraestrutura da Fortune 500 estão se adaptando a esse novo cenário de IA. Continue lendo para conhecer quatro cenários representativos de nossas conversas com líderes empresariais — e o que eles podem significar para a sua própria prontidão para IA.

Cenário #1: Otimização para flexibilidade

O que ouvimos:

Estamos sempre trabalhando para garantir que os usuários tenham acesso aos modelos de IA mais novos e avançados o tempo todo, só para descobrir que o “modelo da semana” mudou mais uma vez. Temos dificuldade para acompanhar essa demanda. Nunca sabemos se estamos preparados para dar suporte a novos modelos de diferentes fornecedores, com as devidas proteções em vigor.

O que isso significa:

Quando você não sabe exatamente como serão suas necessidades futuras de IA, o melhor a fazer é planejar uma infraestrutura flexível, para estar preparado para o que vier a seguir. Esse é um dos motivos pelos quais as empresas devem usar modelos privados e públicos hospedados em ambientes de nuvem privada e pública. Isso é essencial para evitar dependência de um modelo ou fornecedor específico.

Ao usar uma infraestrutura híbrida com ambientes públicos e privados, fica mais fácil equilibrar desempenho, flexibilidade e segurança. Se você construir sua infraestrutura híbrida de IA sobre uma base que você controla, poderá usar soluções de conectividade neutras em relação a fornecedores, que permitem reconfigurar ou redimensionar suas conexões de nuvem sob demanda.

Cenário #2: Chegar à raiz do problema

O que ouvimos:

Quando nossa infraestrutura de IA não está funcionando corretamente, é difícil saber exatamente como responder. Muitas vezes, o problema acaba sendo algo completamente diferente do que pensávamos inicialmente. Quando usamos ferramentas de IA para solucionar problemas em nossa infraestrutura, elas nem sempre são tão úteis quanto imaginávamos.

O que isso significa:

Líderes de infraestrutura lidam com esse tipo de incerteza todos os dias. Em alguns aspectos, a IA tornou o problema cem vezes pior. A IA pode ajudar na solução de problemas da infraestrutura empresarial, mas líderes humanos precisam ter cuidado ao interpretar e aplicar insights gerados por IA. A expertise humana é fundamental para interpretar os resultados da IA.

O desafio é que os modelos de IA generativa tendem a agradar as pessoas. Quando você está tentando resolver um problema de infraestrutura, o modelo sempre apresentará algo que soa como uma solução plausível. Você não deve aceitar essas respostas pelo valor de face, mesmo quando elas parecem confirmar suas percepções iniciais.

Cabe a você determinar se a solução realmente faz sentido, com base no que você sabe sobre sua infraestrutura. Também é necessário formular cuidadosamente os prompts para oferecer aos modelos todo o contexto dos problemas que você está tentando resolver.

Cenário #3: Enfrentar a shadow AI

O que ouvimos:

Durante anos, tivemos uma mentalidade de “terra sem lei” em relação à IA. Embora tenhamos uma equipe de governança responsável por supervisionar a política de IA, aplicar essas diretrizes é praticamente impossível. As pessoas podiam fazer o que quisessem, e é isso que nos tira o sono.

O que isso significa:

Os usuários estão acostumados a experimentar diferentes modelos de IA em suas vidas pessoais, então não surpreende que essa mentalidade também chegue ao trabalho. Eles usam os modelos que querem, quando e onde querem, sem pedir permissão ou esperar orientação. Essa chamada “shadow AI” pode gerar custos mais altos, introduzir problemas de privacidade de dados e dificultar a garantia de resultados consistentes.

Independentemente de quem supervisiona a política de IA dentro de uma organização, uma coisa é clara: a rede é a base que permite a inovação em IA ao mesmo tempo em que limita riscos. Como líderes de rede têm visibilidade sobre onde as cargas de trabalho de IA são executadas e como os dados se movem entre elas, eles merecem um assento à mesa quando chegar a hora de formular uma estratégia completa de infraestrutura de IA.

A organização também deve definir expectativas claras sobre como engenheiros de rede podem usar IA de maneira responsável e garantir que eles tenham ferramentas disponíveis alinhadas a essas expectativas.

Além disso, se engenheiros de rede estiverem usando IA para escrever código, eles devem fazer isso como parte de um pipeline colaborativo de desenvolvimento, em vez de deixar o código armazenado em seus próprios laptops. Isso dá aos desenvolvedores reais a oportunidade de opinar e resolver quaisquer problemas que identifiquem no código.

Cenário #4: Conectar-se rapidamente a ecossistemas de IA

O que ouvimos:

Recentemente, nossos executivos decidiram que precisamos adquirir GPUs de um determinado provedor de neocloud. Nunca nos conectamos com essa neocloud antes, então não sabemos exatamente como proceder. Na verdade, trabalhamos principalmente com um hyperscaler de nuvem específico por anos, então conectar-nos a qualquer coisa fora desse ecossistema parece novo e estranho. Como fazemos as conexões certas, de forma rápida e segura?

O que isso significa:

Garantir acesso aos parceiros certos do ecossistema é uma parte essencial da flexibilidade da infraestrutura. Como mencionado anteriormente, soluções de conectividade neutras são ideais para IA, porque tornam mais rápido se conectar a novos parceiros sempre que a necessidade surgir, sem que a dependência de fornecedor fique no caminho.

Mesmo com a melhor conectividade possível, a proximidade física ainda importa. A distância inevitavelmente leva à latência. Por isso, escolher quem são seus parceiros de ecossistema é apenas metade da batalha. É igualmente importante determinar onde esses parceiros estão e posicionar suas cargas de trabalho de IA de acordo.

Implantar infraestrutura privada de IA em um provedor global de colocation pode ajudar. Você pode ter confiança ao saber que milhares de potenciais parceiros do ecossistema de IA já estão implantados com esse mesmo provedor. Por exemplo, o ecossistema da Equinix abriga neoclouds como CoreWeave, Crusoe, Denvr Dataworks, GroqCloud, Lambda Labs e Nebius, além de todos os principais hyperscalers de nuvem.

Comece hoje com infraestrutura distribuída de IA

A IA não é uma solução mágica para todos os desafios de infraestrutura enfrentados pelas equipes de TI empresarial. Na verdade, muitas vezes ela agrava esses problemas. Mas as equipes que se concentram hoje em otimizar a flexibilidade de sua infraestrutura estarão melhor posicionadas para superar os desafios da IA, ao mesmo tempo em que aproveitam novas oportunidades impulsionadas por IA à medida que elas surgirem.

A Equinix reconhece o papel fundamental que a rede desempenha para viabilizar uma infraestrutura pronta para IA. Isso começa com hubs de interconexão nos lugares certos — não apenas em alguns locais centrais, como aconteceria em uma WAN tradicional. Com infraestrutura distribuída na borda, as empresas podem se aproximar de todos os diferentes lugares onde precisam:

• Coletar dados de várias fontes
• Realizar inferência de IA em tempo quase real
• Conectar-se a diversos usuários finais e parceiros

Saiba mais sobre por que os hubs de interconexão distribuídos são tão importantes para líderes empresariais que estão tentando se preparar para a IA. Leia o resumo de caso de uso, “Otimize sua rede global para IA” (em inglês).