Cloudflare, 어디서나 실행 가능한 AI 모델 구현을 위해 Microsoft와 협력
추론 작업이 장치, 네트워크, 클라우드 전반에서 원활하게 진행될 수 있도록 미래의 AI 철로를 구축
캘리포니아주 샌프란시스코, 2023년 9월 27일 – 클라우드 연결성 분야의 선두 기업인 Cloudflare, Inc. (NYSE: NET)는 기업들이 보다 쉽게 요건에 가장 부합하는 장소에서 AI를 실행할 수 있도록 돕기 위해 Microsoft와 협력한다고 오늘 발표했습니다. 추론 작업이 점점 더 분산됨에 따라, 이번 협력을 통해 기업들은 장치, 네트워크 에지 및 클라우드 환경을 포괄하는 컴퓨팅 연속체 전반에 걸쳐 AI 모델을 원활하게 배포하여 중앙 집중식 컴퓨팅 모델과 분산 컴퓨팅 모델의 이점을 극대화할 수 있습니다. 이 세 가지 계층에서 ONNX Runtime 을 활용함으로써, Cloudflare와 Microsoft는 특정 애플리케이션이나 서비스의 대역폭, 대기 시간, 연결성, 처리, 배터리/에너지, 데이터 주권 및 현지화 요구 사항을 가장 잘 해결하는 초대형 클라우드에서 초분산 네트워크 에지, 장치 자체에 이르기까지 이 세 가지 계층 아키텍처에서 처리가 가장 적합한 곳이면 어디에서나 AI 모델을 실행할 수 있도록 보장합니다.
AI 모델 교육에는 서로 근접한 상당한 계산 및 저장 리소스가 필요하므로, 중앙 집중식 클라우드 플랫폼은 모델 교육에 필요한 집중적인 계산을 위한 최상의 환경을 제공합니다. 교육은 계속 중앙 집중화되는 반면에 추론 작업은 더욱 분산된 위치, 특히 장치 자체와 에지 네트워크에서 점점 더 많이 수행됩니다. 예를 들어, 일부 추론 작업(예: 보행자가 시야에 들어오면 자율주행차가 제동을 하는 경우)은 대기 시간을 최대한 줄이기 위해 물리적 장치에서 실행됩니다. 그러나 컴퓨팅, 스토리지, 배터리 전원과 같은 장치 관련 제약을 처리하려면 에지 네트워크에서 실행해야 하는 작업이 점점 더 많아집니다. 에지 네트워크는 최종 사용자 및 장치와 지리적으로 가까워 컴퓨팅 리소스, 속도 및 데이터 개인 정보 보호 간에 최적의 균형을 구현합니다. 일부 애플리케이션은 최종 사용자에게 최상의 경험을 제공하기 위해 장치, 에지 네트워크 및 클라우드 환경이 함께 작동하는 이 컴퓨팅 연속체의 세 계층을 통과하여 진행해야 할 수도 있습니다.
Cloudflare의 CEO이자 공동 창업자인 매튜 프린스(Matthew Prince)는 다음과 같이 밝혔습니다. "Cloudflare와 Microsoft는 모든 조직의 정확한 요구와 수요에 맞춰 진행되는 AI 추론을 구현하기 위해 AI 트래픽과 작업이 진행될 철로를 함께 구축할 계획입니다. 속도나 정확성을 원하거나, 에너지나 연결 대역폭 문제를 처리하거나, 지역적 현지화 요구 사항을 준수하려는 기업들에게 Cloudflare와 Microsoft는 AI 작업에 가장 적합한 위치를 찾도록 지원할 수 있습니다."
Microsoft의 데이터, AI 및 신흥 기술 담당 제네럴 매니저인 라시미 미스라(Rashmi Misra)는 이렇게 말했습니다. "기업들이 고유의 요건을 충족하기 위해 고유한 방식으로 생성 AI의 성능을 활용할 수 있는 최선의 방법을 모색하는 지금, 장소에 구애받지 않고 AI 모델을 실행할 수 있는 능력이 가장 중요합니다. 기업들이 Cloudflare의 글로벌 네트워크와 당사의 Azure 클라우드를 통해 세계에서 가장 앞선 AI 워크로드를 훈련하고 배포한 Microsoft의 경험을 결합하여 활용하면 AI 추론을 위한 새로운 수준의 유연성과 성능을 활용할 수 있게 될 것입니다.”
Cloudflare와 Microsoft는 기업이 워크로드에 가장 적합한 장소에서 AI를 쉽게 실행할 수 있도록 협력할 계획입니다. 이를 가능하게 할 다음과 같은 두 가지 요소가 있습니다.
- Microsoft의 ONNX Runtime은 장치(Windows, 모바일 또는 브라우저 내), 분산 네트워크 에지(Cloudflare) 또는 Azure의 중앙 집중식 클라우드 플랫폼 등 모든 환경에서 동일한 모델을 배포할 수 있는 표준화된 솔루션을 창출합니다.
- Cloudflare는 연결, 대기 시간, 규정 준수 또는 기타 요건에 따라 다양한 환경에서 트래픽을 라우팅할 인프라를 제공할 수 있습니다.
성능, 비용 및 규제 요건을 직면한 기업들은 장치, 에지 네트워크 및 클라우드의 연속체 전반에 걸쳐 추론 작업을 진행할 수 있기를 원합니다. Microsoft의 AI 역량과 초대형 클라우드 인프라는 Cloudflare의 초분산 에지 네트워크와 결합하여 기업들에게 전체 AI 수명 주기에 걸쳐 혁신과 효율성을 추구할 능력을 제공합니다. 그 결과, 기업들은 다음과 같은 역량을 갖출 수 있습니다.
- AI 과제에 맞는 최적의 위치 파악: 원하는 결과를 달성하기 위해 처리가 가장 적합한 곳에 AI 추론을 배포하도록 선택하여 중앙 집중식 컴퓨팅 모델과 분산 컴퓨팅 모델 모두의 이점을 극대화합니다. 예를 들어 보안 카메라 시스템은 에지 네트워크를 활용하여 객체 감지를 실행할 수 있습니다. 이를 통해 대기 시간 없이 데이터를 처리를 위해 중앙 서버로 보내 장치 자체에 따르는 리소스 제약을 극복합니다.
- 필요 사항의 변화에 대응: 세 위치 모두에서 모델을 실행하고 가용성, 사용 사례 및 대기 시간 요구 사항에 맞춰 조정하거나 교체합니다.
- 몇 번의 클릭으로 Cloudflare에서 배포: Microsoft Azure Machine Learning을 통해 Workers AI에서 쉽게 배포 가능한 모델 및 ML 도구 기능을 활용합니다.
더 알아보려면, 다음 자료를 확인하세요:
- Workers AI에 대한 액세스를 예약하기 위해 등록하세요
- Blog: Workers AI: Cloudflare 네트워크의 GPU에서 실행되는 추론 클라우드
- Blog: 지역 내 최고의 위치: 추론을 위한 기반
- AI.cloudflare.com에서 Cloudflare로 전체 스택 AI 애플리케이션을 구축하는 방법을 알아보세요
Cloudflare 소개
Cloudflare, Inc. (NYSE: NET)는 주요 클라우드 연결성 회사입니다. Cloudflare의 지원을 통해 조직은 직원, 애플리케이션, 네트워크를 어디서나 더 빠르게 운영하고 더 안전하게 보호할 수 있습니다. Cloudflare의 클라우드 연결성은 클라우드 네이티브 제품과 개발자 도구 기능을 포함하는 통합 플랫폼을 제공하여 모든 조직이 비즈니스를 수행, 개발, 가속화할 수 있는 제어 기능을 확보할 수 있도록 합니다.
가장 상호 연결성이 좋은 세계 최대의 네트워크를 기반으로 Cloudflare에서는 고객을 위해 매일 수십 억 건의 온라인 위협을 차단합니다. 가장 규모가 큰 브랜드, 기업가, 중소기업, 비영리단체, 인권 그룹, 전 세계의 정부 등 수 많은 조직에서 이 회사를 신뢰합니다.
Cloudflare의 클라우드 연결성에 대한 자세한 정보를 확인하려면 cloudflare.com/connectivity-cloud를 참조하세요. 최신 인터넷 동향과 인사이트에 대한 자세한 정보를 확인하려면 https://radar.cloudflare.com를 참조하세요.
당사 팔로우하기: 블로그 | X | LinkedIn | Facebook | Instagram
미래지향적 진술
본 언론 발표에는 1933년 증권법 개정본의 섹션 27A와 1934년 증권거래소법 개정본의 섹션 21E에 정의된 상당한 위험 및 불확실성을 포함하고 있는 진술인 미래지향적 진술이 포함되어 있습니다. “할 수 있음”, “할 것임”, “할 가능성이 있음”, “할 것으로 예측됨”, “살펴볼 예정임”, “계획하고 있음”, “기대하고 있음”, “가능성이 있음”, “하려 함”, “목표로 함”, “예상함”, “고려함”, “믿음”, “추정함”, “예측함”, “가능성”, 또는 “계속해서” 등의 단어 및 해당 단어의 부정형, 또는 Cloudflare의 예측, 전략, 계획 또는 의도와 관련된 유사한 단어 또는 표현을 통해 미래지향적 진술이 확인되는 경우가 있습니다. 하지만, 모든 미래지향적 진술에 이와 같이 확인할 수 있는 단어가 포함되지는 않습니다. 이 보도 자료에 표시되거나 암시된 미래지향적 진술에는 Hyperdrive, Cloudflare Workers와 Cloudflare의 다른 제품과 기술의 역량 및 효율성에 대한 진술, Hyperdrive, Cloudflare Workers와 Cloudflare의 다른 제품과 기술을 사용함으로써 Cloudflare의 고객이 갖는 이점, 현재 및 잠재적인 모든 Cloudflare 고객이 Hyperdrive나 다른 어떠한 관련 주요 기능을 보편적으로 이용할 수 있는 시점, Cloudflare의 기술 개발, 향후 운영, 성장, 이니셔티브나 전략, Cloudflare CEO 및 기타 인원의 발언 등이 포함되지만, 이에 국한되지는 않습니다. Cloudflare에서 2023년 8월 3일 양식 10-Q에 작성해서 제출한 Cloudflare의 분기 보고서 및 기타 SEC에 주기적으로 제출할 제출물 등을 포함하는 증권거래위원회(SEC) 제출물에 명시된 위험이 포함되나 이에 국한되지 않는 여러 이유 때문에, 실제로 나오게 될 결과는 미래지향적 진술에서 표현되거나 암시된 결과와 크게 다를 수 있습니다.
본 언론 발표에서 이루어진 미래지향적 진술은 진술이 이루어진 날짜 이전에 발생한 사건에만 관계됩니다. 법적으로 요구되는 경우를 제외하고, Cloudflare는 본 언론 발표에서 사용한 미래지향적 진술을 언론 발표 시점 이후 발생한 사건 및 현황, 새로운 정보 또는 예측 불가능했던 사건의 발생 등을 반영해 갱신할 의무를 지니지 않습니다. Cloudflare는 자사의 미래지향적 서술문에서 공개한 계획, 의도 또는 예측을 달성하지 못할 가능성이 있으며, Cloudflare의 미래지향적 진술을 과도하게 신뢰해서는 안 됩니다.
© 2023 Cloudflare Inc. 판권 소유. Cloudflare, Cloudflare 로고 및 기타 Cloudflare 마크는 미국 및 기타 관할 지역에서 Cloudflare, Inc.의 상표 혹은 등록 상표입니다. 본 문서에 언급된 모든 기타 마크 및 이름은 각 소유주의 상표일 수 있습니다.