AI의 잠재적 이점은 분명하지만 기업은 귀중한 지적 재산이 리스크에 노출되지 않으면서 이러한 이점을 추구할 수 있는 신중하면서도 전략적인 접근 방식이 필요합니다. 그렇기 때문에 많은 기업이 자체 AI 모델을 구축하고 해당 모델을 프라이빗 인프라에서 호스팅하며 자체 데이터세트만으로 AI 모델을 교육하기 시작했습니다. 이러한 개념을 프라이빗 AI라고 합니다.
이제 많은 기업은 ChatGPT와 같은 퍼블릭 AI 서비스에 민감한 데이터를 공급하면 그러한 데이터가 해당 AI 모델에서 학습된다는 사실을 인식하고 있습니다. 결과적으로 이는 향후 그 AI 모델을 사용하는 모든 사람에게 해당 데이터가 노출될 수 있다는 의미입니다. OpenAI의 자체 FAQ에 따르면, 사용자 기록에서 특정 프롬프트를 삭제할 수 있는 방법이 없으므로 사용자는 민감한 정보를 ChatGPT와 공유해서는 안 된다고 명시되어 있습니다.[1]
프라이빗 AI를 사용하면 정보 보호 또는 민감한 데이터 제어를 포기하지 않고도 데이터에서 비즈니스 인사이트를 얻을 수 있습니다. 아래 내용을 통해 프라이빗 AI를 활용하여 성공을 거둘 수 있도록 기업 전략에 통합해야 하는 4가지 요소를 살펴보세요.
1. 귀사에 프라이빗 AI가 적합한지 확인하기
첫째, 모든 기업이 프라이빗 AI로 성공할 수는 없다는 점을 알고 있어야 합니다. 특히, 특정 상황에서 성공에 대한 시각이 분명하지 않게 정의된 상태로 시작할 경우 성공할 수 없습니다. 의료, 금융 서비스 등, 규제가 엄격한 산업에 종사하는 기업의 경우 프라이빗 AI의 이점은 분명합니다. 이러한 기업은 민감한 데이터가 리스크에 노출될 수 있는 모든 요소를 피해야 한다는 점을 알고 있으므로, 프라이빗 AI가 잘 어울립니다.
비규제 산업 부문의 기업도 프라이빗 AI의 이점을 누릴 수 있지만 가치 제안이 항상 분명한 것은 아닙니다. 이러한 비즈니스는 데이터 유출 리스크를 비롯하여 AI 활용이 퍼블릭 인프라에 미치는 비용 및 유연성 영향과 같은 양쪽의 균형점을 고려해야 합니다. 일부 기업은 AI 모델에 요구되는 확장 가능한 컴퓨팅 인프라를 손쉬우면서도 비용 효율적으로 확보할 수 있는 방법으로 퍼블릭 클라우드에 관심을 갖습니다. 그러나 대부분 높은 데이터 이그레스 비용으로 인하여 퍼블릭 클라우드 컴퓨팅을 이용하기가 생각보다 어렵고 비용이 많이 드는 경우가 많습니다.
퍼블릭 클라우드 인프라 사용 시 예상되는 이점이 잠재적 리스크를 충분히 만회하지 못한다고 판단된다면 귀사 비즈니스는 프라이빗 AI 활용을 진행하기에 적합합니다.
2. 데이터 관리와 기업 전략을 통합하기
지난 몇 년 동안 AI 기술 측면에서 이루어진 빠른 발전으로 미루어 보아, 한 가지 근본적인 사실을 고려해보는 것도 좋을 것입니다. 즉, AI 모델은 사용자가 입력하는 데이터보다 월등할 수는 없다는 사실 말입니다. 그렇기 때문에 프라이빗 AI의 성공적 활용을 위해서는 효과적인 데이터 관리가 반드시 필요합니다.
적절한 데이터를 적절한 위치로 지연 없이 가져올 수 있는 방법을 고려해야 합니다. 기본적으로 AI 인프라는 고도로 분산되어 있기 때문에 이는 어려운 일일 수도 있습니다.
- 하이브리드 멀티클라우드 아키텍처에 포함될 가능성이 높은 모든 애플리케이션에서 데이터를 수집하여 학습 모델에 자료를 공급해야 합니다.
- 데이터 소스와 처리 위치 간의 근접성을 확보하려면 엣지(최종 사용자가 AI 모델과 상호작용을 하는 위치)에 유추 워크로드를 배포해야 합니다. 유추 워크로드는 지연 시간에 매우 민감하고 거리가 네트워크 지연 시간의 주요 동인이기 때문에 반드시 필요합니다.
- 해당 워크로드에 요구되는 대규모 컴퓨팅 용량을 제공할 수 있는 핵심 인프라에 학습 워크로드를 구축해야 합니다.
- 데이터가 소스에서 다양한 처리 위치로 데이터의 빠르고 안정적인 이동이 가능하도록 다양한 워크로드 간에 유연한 고성능 네트워킹이 필요합니다.
AI 지원 데이터 아키텍처를 구축하는 이상적인 방법 중 하나는 클라우드 인접 스토리지를 사용하는 것입니다. 이를 통해 잠재적 리스크, 비용 및 복잡성을 완화하면서도 퍼블릭 클라우드 서비스를 프라이빗 AI 전략에 통합할 수 있습니다. 이는 두 AI 인프라 환경의 장점을 모두 갖춘 것과 같습니다. 필요한 시기에 서비스에 접속할 수 있을 만큼 충분히 클라우드에 가까운 위치지만, 신뢰할 수 있는 스토리지 환경을 클라우드와 별도로 유지할 수도 있습니다.
이러한 접근 방식을 채택하면 퍼블릭 AI 모델을 통한 데이터 유출이나 특정 클라우드 락인(lock-in)에 대한 걱정 없이 데이터를 완전히 제어, 즉 원하는 시기에 원하는 방법으로 데이터를 사용할 수 있도록 제어할 수 있습니다. 이러한 수준의 데이터 제어 확보는 효과적인 프라이빗 AI 전략의 특징 중 하나입니다.
3. 컴퓨팅 요구사항 고려하기
AI의 급성장으로 인하여 강력한 GPU 하드웨어에 대한 수요가 증가했습니다. 제조업체는 이러한 수요를 충족하기 위하여 생산량을 늘리고 있지만, 그럼에도 불구하고 가까운 미래에 공급 부족이 발생할 가능성이 높습니다. 제한된 하드웨어 가용성으로 인해 프라이빗 AI 목표를 완전히 실현하지 못할 수도 있습니다. 그러나 이러한 장애를 피하면서도 필요한 컴퓨팅 용량을 확보할 수 있는 방법이 있습니다.
많은 사람이 ‘GPU’를 ‘AI 하드웨어’와 같은 의미로 생각하지만 반드시 그런 것은 아닙니다. 가장 까다로운 학습 워크로드를 지원하려면 GPU가 반드시 필요하지만 소규모 추론 워크로드에는 바로 사용 가능한 CPU를 사용할 수 있습니다. 실제로 Equinix Metal® 같은 서비스형 베어메탈 솔루션을 사용 하면 높은 초기 비용 없이 온디맨드 방식으로 필요한 CPU를 배포하는 데 도움이 될 수 있습니다.
또한 GPU가 필요한 워크로드의 경우라 해도 자체 하드웨어 배포 및 관리 이외에 선택할 수 있는 방법이 있습니다(몇 개월의 딜리버리 대기 후). 예를 들어, Equinix는 최근 NVIDIA와 협업하여 완전 관리형 프라이빗 클라우드 서비스를 발표했습니다. 이 서비스를 통해 고객은 AI 인프라의 호스팅 및 운영을 위한 필수 코로케이션, 네트워킹 및 관리 서비스가 패키지로 포함된 첨단 AI 인프라를 더욱 빠르고 손쉽게 얻을 수 있습니다. 이 솔루션은 프라이빗 환경에서 데이터 제어를 유지할 수 있으면서도 퍼블릭 클라우드 솔루션에서 예상되는 유연성을 모두 제공합니다.
4. 지속가능성 및 효율성 계획하기
지금과 것이라는 합리적인 우려를 나타내는 사람이 많습니다. AI 워크로드, 특히 학습 워크로드가 에너지 집약적일 수 있다는 점은 사실입니다. 이러한 워크로드로 발생하는 탄소 영향을 제한하기 위해서는 워크로드를 최대한 효율적으로 실행해야 합니다.
예를 들어, 데이터센터를 위한 새로운 액체 냉각 기술은 본질적으로 기존 공기 냉각보다 더 효율적입니다. 따라서 이는 AI와 같은 고밀도 워크로드를 에너지 효율적으로 냉각하는 데 필수적인 역할을 합니다. Equinix에서는 몇 년 동안 액체 냉각을 광범위하게 테스트해 왔으며 생산 워크로드 지원에 이를 사용하기 시작했습니다 .
또한 워크로드 배치가 지속가능성에 미칠 수 있는 영향을 고려하는 것도 중요합니다. 기업은 로컬 그리드에서 탄소 집약도가 가장 낮은 에너지를 끌어낼 수 있는 위치에 워크로드를 배치하려고 합니다. 이를 달성하는 방법의 하나로는 재생에너지에 대한 투자를 우선시하는 디지털 인프라 파트너와 협업하는 방법이 있습니다.
Equinix는 2030년까지 전 세계적으로 100% 재생에너지 커버리지라는 목표를 순조롭게 달성해나가고 있습니다. 보다 친환경적인 그리드를 조성하기 위하여, Equinix는 전 세계 다양한 지역에서 재생에너지 프로젝트를 지원하는 전력 구매 계약(PPA)에 투자하고 있습니다. 에퀴닉스 고객은 지속가능한 방식의 AI 활용이라는 목표를 달성하기 위해 노력하면서 이와 같은 재생에너지 커버리지 증대의 이점을 누릴 수 있습니다.
Meet your private AI infrastructure requirements
귀사가 필요한 프라이빗 AI 인프라 요구사항에 맞는 솔루션을 확인해 보세요
적절한 디지털 인프라로 프라이빗 AI를 활성화할 수 있는 방법을 자세히 알아보려면 Equinix Indicator를 방문하세요.
AI에 적합한 데이터 아키텍처를 구현하고 상호연결을 이용하여 AI 인프라의 다양한 구성 요소를 통합하며 지속가능한 AI 인프라 구축과 관련된 과제를 극복할 수 있는 방법에 대하여 산업 전문가들로부터 인사이트를 얻을 수 있습니다.
[1] What is ChatGPT?, OpenAI.
Subscribe to the Equinix Blog