Cloudflare, 보안을 준수한 AI 추론을 빠르고 안전하게 대규모로 배포할 수 있는 가장 완벽한 플랫폼 출시

AI 응용 프로그램의 다음 시대를 위해 AI 모델을 효율적이고 합리적인 가격으로 확장하고 배포하는 엔드투엔드 인프라를 위한 Workers AI를 소개

2023년 9월 27일 캘리포니아주 샌프란시스코Cloudflare, Inc.(NYSE: NET)는 클라우드 연결성을 선도하는 기업으로 오늘 개발자들이 Cloudflare의 네트워크에서 전체 스택 AI 애플리케이션을 구축할 수 있음을 발표했습니다. Cloudflare의 개발자 플랫폼은 AI 애플리케이션을 구축하려는 개발자들에게 최고의 엔드투엔드 경험을 제공하므로 인프라 관리 없이 빠르고 합리적인 가격의 추론이 가능합니다. 스타트업에서 중견 기업까지 모든 기업에서 인공지능을 이용해 서비스를 강화할 방법을 모색함에 따라, Cloudflare 플랫폼에서는 보안, 규제 준수, 속도를 기본으로 제공해 개발자가 프로덕션에 사용할 수 있는 앱을 신속히 출시할 수 있도록 지원합니다.

AI를 활용해 서비스를 강화하려는 포춘지 1,000대 기업부터, 차세대 문화를 정의하는 애플리케이션을 구축하고자 하는 AI 스타트업까지, 모든 기업의 리더는 프로덕션 규모에 맞는 AI 기반 애플리케이션을 만들고자 합니다. 조직에서는 신속히 행동하여 가치를 빠르게 실현하려고 노력합니다. 그러나 조직에서는 여러 문제에 직면합니다. AI 배포 과정에서 불투명한 비용이 급속히 불어나기도 하고, 고객 데이터를 보호하는 한편 규제도 준수해야 하기 때문입니다. 개발자는 새로운 여러 벤더를 상대합니다. 따라서 개발자는 새로운 도구를 빠르게 이해하고, 복잡하고 상이한 서비스를 하나로 연결해야 합니다. 고위 경영진은 고가의 기술, 도구, 인력 가운데서 비용을 최적화할 방법을 찾고 있습니다.

“Cloudflare에서는 개발자가 확장 가능한 AI 기반 애플리케이션을 구축할 때 필요로 하는 모든 인프라를 보유하고 있으며, 사용자에게 근접한 AI 추론을 제공할 수 있습니다. Cloudflare에서는 모든 개발자가 강력하면서도 가격이 합리적인 도구에 쉽게 접근해 미래를 만들어 갈 수 있도록 노력하고 있습니다”라고 Cloudflare의 CEO 겸 공동 창립자인 Matthew Prince는 이야기합니다. “Workers AI는 팀에서 일반적으로 몇 주에서 몇 달이 걸리는 일을, 프로덕션을 사용해 AI 경험을 통해 효율적이고 합리적인 가격으로 며칠 안에 구축할 수 있도록 해줍니다.”

"기업이 운영 속도를 극대화할 방안을 모색함에 따라, 점점 많은 기업이 인공 지능으로 방향을 틀고 있습니다,"라고 RedMonk의 수석 분석가 Stephen O'Grady는 이야기한다. "그러나 비용을 모니터링하는 인터페이스 및 제어창을 단순화하는 추출과 더불어 AI를 중심으로 한 양질의 개발자 경험을 제공하는 것이 중요합니다. 이것이 바로 Cloudflare가 Workers 플랫폼을 최적화해 온 이유죠."

Workers AI 소개: 업계 최초의 대규모 서버리스 AI

오늘, Workers AI는 개발자들이 Cloudflare의 전역 네트워크에서 AI 모델을 실행할 수 있는 간단하고 합리적인 가격의 방법을 제공합니다. 거대한 파트너십을 통해, 이제 Cloudflare Cloudflare의 거대 전역 네트워크에서 작동하는 GPU로의 액세스를 제공합니다. 이는 최종 사용자 경험에서 대기 시간을 감소시켜 AI 추론이 사용자에게 근접할 수 있게 보장한다. 데이터 검증 시 제어를 위해 Data Localization Suite를 함께 사용하면, 고객은 Workers AI를 통해 정부가 AI 사용과 관련해 수립하는 정책에 따라 생기는 잠재적 규정 준수 및 규정 요구 사항을 예측할 수 있게 됩니다. 응용 프로그램 개발에 있어 개인정보 보호를 중시하는 Cloudflare의 관점은 추론에 사용된 데이터가 LLM 훈련에 쓰이지 않음을 보증함으로써 기업이 고객과의 약속을 지킬 수 있도록 합니다. Cloudflare는 현재 모델 카탈로그를 지원하는데, 이는 개발자들이 LLM과 speech to text, 이미지 분류, 감정 분석 등의 사례를 활용해 작업에 빠르게 착수할 수 있도록 돕는다.

Vectorize 소개: AI 워크플로우 속도를 높이는 벡터 데이터베이스

Cloudflare의 새로운 벡터 데이터베이스, Vectorize는 개발자들이 온전히 Cloudflare에서 전체 스택 AI 응용 프로그램을 구축할 수 있게 한다: Workers AI에서 내장형 모델을 가진 임베딩을 생성하는 것부터, 이를 Vectorize에서 색인화하고, 쿼리로 만들어 R2에 소스 데이터를 보관하기까지 전 과정을 지원한다. Workers AI와 Vectorize를 이용한다면, 더 이상 개발자들은 앱에 AI와 머신러닝을 결합하기 위해 다수의 조각을 모아 붙이지 않아도 된다 – 하나의 플랫폼에서 전부 가능하므로.

Vectorize는 또한 벡터 쿼리를 사용자에게 근접 시키고 대기 시간과 추론 시간을 전반적으로 감소시켜 Cloudflare 전역 네트워크의 이점을 누립니다. Vectorize는 또한 AI 생태계를 널리 통합하며, 개발자가 OpenAI나 Cohere를 사용해 생성된 임베딩을 보관을 허용합니다. 이를 통해 팀은 AI-앱을 프로덕션으로 확장할 때 이미 보유한 임베딩을 가져올 수 있고, Vectorize의 이점을 그대로 가질 수 있게 됩니다.

AI Gateway 소개: AI의 관찰 가능성과 확장

오늘 Cloudflare에서는 AI 애플리케이션을 더 믿을 수 있고, 관찰할 수 있으며, 확장할 수 있게 하는 AI Gateway를 소개합니다. IDC의 최신 예측에 따르면, 올해 AI 관련 지출은 154억 달러까지 늘어날 것이며, 2026년에는 300억 달러 이상 늘어날 것입니다. 그렇지만 개발자와 고위 경영진은 AI 인프라 전반에서 자금이 어떻게 사용되었는지, 또는 쿼리가 어디에서 얼마나 생성되는지 알 방법이 없습니다.

개발자들은 구축 뒤에 숨겨진 인프라나 규모, 비용, 또는 관찰 가능성이 아니라 구축 대상에 집중해야 합니다. AI Gateway는 개발자에게 관찰 가능성을 위한 주요 기능을 제공한다. 이를 통해 요청 횟수, 사용자 수, 앱 구동 비용, 요청 지속 시간과 같은 AI 트래픽을 이해합니다. 또한, 개발자들은 캐싱과 속도 제한을 통해 비용을 관리할 수 있습니다. 캐싱을 이용하면, 반복되는 질문에 대한 답을 캐시로 저장할 수 있어서 비싼 API 콜을 생성을 줄입니다. 속도 제한은 성장과 비용을 관리하기 위해, 응용 프로그램을 확장함에 있어서 개발자들에게 제어 능력을 부여해 악의적 행위자와 헤비 트래픽을 관리할 수 있습니다.

더 알아보려면, 다음 자료를 확인하세요:

Cloudflare 정보

Cloudflare, Inc. (NYSE: NET)는 주요 클라우드 연결성 회사입니다. Cloudflare의 지원을 통해 조직은 직원, 애플리케이션, 네트워크를 어디서나 더 빠르게 운영하고 더 안전하게 보호할 수 있습니다. Cloudflare의 클라우드 연결성은 클라우드 네이티브 제품과 개발자 도구 기능을 포함하는 통합 플랫폼을 제공하여 모든 조직이 비즈니스를 수행, 개발, 가속화할 수 있는 제어 기능을 확보할 수 있도록 합니다.

가장 상호 연결성이 좋은 세계 최대의 네트워크를 기반으로 Cloudflare에서는 고객을 위해 매일 수십 억 건의 온라인 위협을 차단합니다. 가장 규모가 큰 브랜드, 기업가, 중소기업, 비영리단체, 인권 그룹, 전 세계의 정부 등 수 많은 조직에서 이 회사를 신뢰합니다.
Cloudflare의 클라우드 연결성에 대한 자세한 정보를 확인하려면 cloudflare.com/connectivity-cloud를 참조하세요. 최신 인터넷 동향과 인사이트에 대한 자세한 정보를 확인하려면 https://radar.cloudflare.com를 참조하세요.

당사 팔로우하기: 블로그 | X | LinkedIn | Facebook | Instagram

미래지향적 진술

이 보도 자료는 1933년 개정된 미국 증권법 제27A조 및 1934년 개정된 증권거래법 제21E조의 미래지향적 진술이 포함됐으며, 위 진술에는 큰 위험과 불확실성이 포함되어 있습니다. '할 수 있음', '할 것임', '할 가능성이 있음', '할 것으로 예측됨', '살펴볼 예정임', '계획하고 있음', '기대하고 있음', '가능성이 있음', '하려 함', '목표로 함', '예상함', '고려함', '믿음', '추정함', '예측함', '가능성', 또는 '계속해서' 등의 단어, 해당 단어의 부정형 또는 Cloudflare의 예측, 전략, 계획 또는 의도와 관련된 유사한 단어 또는 표현을 통해 미래지향적 진술이 확인되는 경우가 있습니다. 하지만, 모든 미래지향적 진술에 이와 같이 확인할 수 있는 단어가 포함되지는 않습니다. 이 보도 자료에 표시되거나 암시된 미래지향적 진술에는 Workers AI, Vectorize, AI Gateway와 Cloudflare의 다른 제품과 기술의 역량 및 효율성에 대한 진술, Workers AI, Vectorize, AI Gateway와 Cloudflare의 다른 제품과 기술을 사용함으로써 Cloudflare의 고객이 갖는 이점, 현재 및 잠재적인 모든 Cloudflare 고객이 Workers AI, Vectorize, AI Gateway나 다른 어떠한 관련 주요 기능을 보편적으로 이용할 수 있는 시점, AI 비용의 증가, Cloudflare의 기술 개발, 향후 운영, 성장, 이니셔티브나 전략, Cloudflare CEO 및 기타 인원의 발언 등이 포함되지만, 이에 국한되지는 않습니다. Cloudflare에서 2023년 8월 3일 양식 10-Q에 작성해서 제출한 Cloudflare의 분기 보고서 및 기타 SEC에 주기적으로 제출할 제출물 등을 포함하는 증권거래위원회(SEC) 제출물에 명시된 위험이 포함되나 이에 국한되지 않는 여러 이유 때문에, 실제로 나오게 될 결과는 미래지향적 진술에서 표현되거나 암시된 결과와 크게 다를 수 있습니다.

본 언론 발표에서 이루어진 미래지향적 진술은 진술이 이루어진 날짜 이전에 발생한 사건에만 관계됩니다. 법적으로 요구되는 경우를 제외하고, Cloudflare는 본 언론 발표에서 사용한 미래지향적 진술을 언론 발표 시점 이후 발생한 사건 및 현황, 새로운 정보 또는 예측 불가능했던 사건의 발생 등을 반영해 갱신할 의무를 지니지 않습니다. Cloudflare는 자사의 미래지향적 서술문에서 공개한 계획, 의도 또는 예측을 달성하지 못할 가능성이 있으며, Cloudflare의 미래지향적 진술을 과도하게 신뢰해서는 안 됩니다.

© 2023 Cloudflare Inc. 판권 소유. Cloudflare, Cloudflare 로고 및 기타 Cloudflare 마크는 미국 및 기타 관할 지역에서 Cloudflare, Inc.의 상표 혹은 등록 상표입니다. 본 문서에 언급된 모든 기타 마크 및 이름은 각 소유주의 상표일 수 있습니다.

Press Contact Information
Daniella Vallurupalli
+1 650-741-3104