엣지의 재정의: AI 인프라를 위한 새로운 표준 설정

AI의 급속한 발전은 업계에 혁신을 일으키고 있습니다. 오늘날 기업이 경쟁적 우위를 유지하기 위해서는 빠른 의사결정 속도, 운영의 탄력성, 개인화된 경험이 필요합니다. 또한 수용 가능한 성능에 대한 변화하는 소비자와 기업의 기대를 충족해야 합니다.

엣지에 위치한 근접성 기반 AI 인프라는 이러한 높아지는 표준을 충족하기 위한 필수 사항입니다. AI 환경은 중앙 집중형 위치에서 AI 모델을 학습시키는 방식에서 엣지에서 워크로드 추론을 수행하는 보다 분산된 패러다임으로 진화하고 있습니다. 이는 부분적으로, 엣지에서 의사 결정을 내리면서 짧은 지연 시간을 필요로 하는 에이전틱 AI 추론이 부상했기 때문입니다.

최신 AI 모델이 더욱 전문화되고 소형화됨에 따라 엣지에서 학습이 가능해졌습니다. 기업들은 특정 산업, 기능 및 독점 데이터 세트에 사용하기에 적합한 도메인 별로 전문화된 AI 모델을 활용하고 있습니다.

이러한 요소들로 인해 엣지는 데이터가 생성되고, 저장되고, 처리되는 장소와의 근접성을 제공하는 더욱 전략적인 컴퓨팅 위치가 됩니다.

귀사의 주요 엣지 위치는 어디입니까?

기업들은 엣지 위치에 대해 다시 생각해봐야 합니다. 실제로 기업이 AI 추론을 수행하기 위해 선택할 수 있는 다양한 엣지 위치가 있습니다. 메트로 엣지는 짧은 지연 시간, 데이터 프라이버시 및 비용 효율성의 측면에서 최적의 균형을 제공하기 때문에 AI 추론 워크로드를 위한 중요한 위치로 주목을 받고 있습니다.

메트로 엣지를 선택하면 데이터 소스와 동일한 집중된 지리적 지역 내의 다른 시설(예: 코로케이션 데이터센터)로 추론 데이터를 이동하게 됩니다. 이러한 접근 방식은 일반적으로 10 밀리초 미만의 지연 시간으로 단일 위치에서 추론 워크로드를 집계하므로 기업이 자체 시설 내에서 개별 인프라를 운영해야 할 필요성을 없애줍니다.

애플리케이션 유형도 각 유형에 따라 지연 시간 허용치가 다르기 때문에 주요 엣지 위치 식별에 영향을 미칩니다. 기계용 애플리케이션은 일반적으로 빠른 속도와 짧은 지연 시간을 요구합니다. 사용자용 애플리케이션에서는 몇 밀리초의 지연 시간은 전혀 감지되지 않습니다. 의료 기록을 검색하는 방사선 전문의는 즉각적인 응답이 필요하지 않지만, 보행자를 피해야 하는 자율 주행 자동차에게는 즉각적인 응답이 필수적입니다.

데이터가 생성되고 처리되는 위치, 데이터 소스에 액세스하는 방법 등 산업별 요구 사항에 따라서도 기업의 엣지 위치가 결정됩니다. 기업은 다양한 기능에 따라 각 엣지 지연 시간 요구 사항을 충족해야 할 수 있습니다:

• 물류 기업: 배송 추적, 배송 경로 관리, 창고 운영 간소화, 화물 보안 모니터링 및 보장
• 콘텐츠 전송 기업: 실시간으로 맞춤형 추천 사항을 제공하고 끊김 없는 스트리밍, 지연 시간이 없는 게임 및 몰입형 AR/VR 경험을 보장
• 스마트 시티: 실시간 영상 분석과 센서 데이터 처리 기능을 활용해 교통 관리, 범죄 감지, 비상 대응을 구현
• 의료 기관: 지속적인 모니터링, 원활한 원격 로봇 수술, 신속한 데이터 분석을 통해 더 빠른 진단과 개인 맞춤화된 치료를 제공

엣지에서의 데이터 활용 사례는 계속해서 진화하고 성장할 것이며, 이에 따라 기업에게는 현재와 미래 모두를 고려한 설계가 필요합니다.

비용과 규정 준수에 영향을 미치는 데이터 배치

기업이 AI 워크로드를 실행하고 데이터를 저장하는 위치는 이그레스 수수료와 비용 구조(OPEX 대비 CAPEX)에 영향을 미칩니다. 이는 성능 및 지연 시간, 네트워크 인프라 요구 사항에도 영향을 미칩니다.

엣지에서 매일 생성되는 데이터의 양은 빠르게 늘어날 수 있습니다. 예를 들어:

• 스마트 팩토리: 1 페타바이트
• 비행기: 4 테라바이트
• 자율 주행 차량: 3 테라바이트

AI 추론을 위해 데이터를 중앙 집중형 위치로 옮기면 지연 시간, 비용, 대역폭에 상당한 영향을 미치므로 엣지를 선택하는 것이 필수적입니다. 또한, 데이터 보호 및 개인정보 보호법은 현재 144개국에서 시행 중이며, 더 많은 국가에서 시행될 예정입니다.[2] 일부 규정은 복잡하기 때문에 데이터를 저장할 위치를 신중하게 고려해야 합니다. 예를 들어, 독일에서 수집된 데이터를 미국에 있는 AWS 클라우드에 저장할 수 없습니다. 해당 데이터는 독일에 저장되어야 합니다. 이 역시 AI를 위한 분산 인프라가 필요한 이유 중 하나입니다.

엣지에서 AI 혁신의 기준을 높이다

엣지에서 AI로 혁신하고 고객 및 파트너와의 실시간 협업과 고속 연결을 위해 AI 인프라를 구축한 두 가지 기업의 사례를 살펴보겠습니다.

AI 기반 신약 개발을 전문으로 하는 바이오테크 스타트업인 Nanyang Biologics의 경우, 엣지 컴퓨팅을 위한 Equinix Fabric® 소프트웨어 정의 상호연결을 활용하여 연구 파트너와의 실시간 협업을 실현했습니다. 이를 통해 비용을 낮추면서 속도와 정확도를 높일 수 있었습니다.

Nanyang Biologics 사례에 대해 요약된 이 시청하시면 엣지에서 확장 가능한 AI 인프라가 어떻게 AI 모델 학습을 지원하고 신약 개발을 가속화하는지 알아볼 수 있습니다.

Alembic은 고객사에게 마케팅 활동에 대한 데이터 기반 인사이트를 제공함으로써 고객사가 지출을 최적화하고 세일즈 퍼널의 움직임을 개선할 수 있도록 돕는 마케팅 인텔리전스 SaaS 기업입니다. 이 기업은 고성능 AI 추론을 엣지에서 구현하기 위해 AI 인프라 스택을 고객사와 가까운 곳에 배치했습니다. Alembic은 또한 고객사와 파트너에게 고속 연결을 제공하기 위해 Equinix의 네트워크 서비스 공급자(NSP) 에코시스템과 Equinix Fabric을 활용하였고 궁극적으로 더 높은 성능의 서비스를 제공했습니다.

Alembic 사례에 대해 요약된 이 동영상을 시청하시면 AI 기반 데이터 분석을 통해 어떻게 데이터 기반 마케팅을 구현하는지 알아볼 수 있습니다.

엣지에서 AI를 활용해 혁신을 이루고 있는 다른 산업 분야는 다음과 같습니다:

• 거래 전략 및 사기 탐지를 위한 금융 서비스
• 디지털 콘텐츠 제작 및 게임 개발을 위한 미디어 및 엔터테인먼트
• 보행자와 교통 표지판 감지, 차선 추적을 위한 자율 주행 차량
• 제조, 건설, 항해를 위한 로봇공학

엣지에서의 근접성을 우선시하기 위한 4단계

근접성 우선 인프라 전략으로 전환하려면 신중하고 통합적인 접근 방식이 필요합니다. 아래 단계들을 통해 로드맵을 작성하는 것을 권장합니다:

1. 먼저, 현재 AI 인프라에 대한 감사를 실시합니다. 데이터 흐름을 매핑하고 지연 시간으로 인해 발생하는 성능 병목 현상을 식별해야 합니다
2. 다음으로, 귀사의 엣지 요구 사항을 정의합니다: 지연 시간, 대역폭, 규정 준수 등 실시간 애플리케이션의 요구 사항을 파악합니다. 또한 귀사의 고성능 연결, 컴퓨팅 및 데이터 스토리지 요구 사항을 검토해야 합니다
3. 이제 엣지와 중앙 집중형 인프라 간의 적절한 균형을 이루기 위해 워크로드를 지능적으로 분산하고 규정 준수를 위해 국가별 또는 지역별 인프라를 구축할 수 있는 유연한 멀티클라우드 및 멀티공급자 데이터 전략을 설계할 준비를 합니다
4. 마지막으로, 상호연결되고 중립적인 AI 파트너 에코시스템을 활용하여 AI 워크로드를 지원하는 데 필요한 광범위한 파트너에 접속합니다

엣지에서 AI 인프라 구현

분산 인프라는 기업이 AI 혁신을 가속화하고 해당 기업의 미래 AI 전략을 대비하도록 지원합니다. 해당 글에서는 엣지에 중점을 두었지만, AI 인프라 전략에는 클라우드와 엣지 인프라를 결합하고 모든 리소스를 안전하게 연결할 수 있는 강력한 네트워크가 포함되어야 합니다.

Equinix AI 데이터센터는 기업들이 미래 지향적인 운영을 할 수 있도록 세계에서 가장 연결성이 높은 시장의 전략적인 위치를 점유하고 있습니다. 당사의 글로벌 영향력은 전 세계 76개 도시에 걸쳐 270개 이상의 상호연결된 코로케이션 데이터센터로 확장되었으며, 업계 최고 수준인 220개 이상의 클라우드 온램프 포트폴리오와 다양한 데이터 소스로의 근접성을 통해 모든 주요 클라우드 공급자에 대한 접근성을 보장합니다.

수천 개의 데이터, 클라우드, 네트워크, AI 기술 및 서비스형 GPU 공급자가 강력한 Equinix 디지털 에코시스템에 함께 하고 있습니다. 기업은 Equinix Fabric을 사용하여 에코시스템 파트너와 다양한 위치에 있는 기업 자체 AI 인프라 간에 온디맨드면서 확장 가능한 연결을 구축할 수 있습니다.

근접성이 중요한 이유에 대해 자세히 알아보려면 근접성 패러독스 백서를 확인해보세요.

[1] “Gartner Predicts 2025: Edge Computing Platforms Will Accelerate Edge AI,” Gartner®, November 28, 2024.

GARTNER is a registered trademark and service mark of Gartner, Inc. and/or its affiliates in the U.S. and internationally and is used herein with permission. All rights reserved.

[2] “Data protection and privacy laws now in effect in 144 countries,” IAPP, January 28, 2025.