AI 추론과 훈련의 비교: AI 추론이란 무엇인가요?

AI 추론이란 무엇인가요?

인공지능(AI) 분야에서 추론이란 훈련된 머신 러닝 모델*이 새로운 데이터에서 결론을 도출하는 데 사용하는 과정을 말합니다. AI 모델이 추론할 수 있는 능력을 갖추면 원하는 결과에 대한 예시 없이도 추론을 수행할 수 있습니다. 즉, 추론은 실제 적용되는 AI 모델입니다.

AI 추론의 한 예시로 자율주행 자동차가 한 번도 주행한 적이 없는 도로에서 정지 표지판을 인식하는 능력을 들 수 있습니다. 새로운 컨텍스트에서 이 정지 표지판을 식별하는 과정을 추론이라고 합니다.

또 다른 예로, 프로 운동선수의 과거 성적을 훈련한 머신 러닝 모델은 계약 체결 전에 선수의 미래 성적을 예측할 수 있습니다. 이러한 예측을 추론이라고 합니다.

*머신 러닝은 AI 유형에 속합니다.

AI 추론과 훈련의 비교

• 훈련은 AI 모델의 첫 번째 단계입니다. 훈련에는 시행착오를 겪는 과정 또는 원하는 입력 및 출력 결과를 보여주는 모델 예시를 시연하는 과정이 포함되거나, 두 가지 접근 방식이 모두 포함될 수 있습니다.
• 추론은 AI 훈련 과정의 다음 단계입니다. 모델을 더욱 효과적으로 훈련하고 미세 조정하면 완벽을 보장할 수는 없지만 더 나은 추론 결과를 얻을 수 있습니다.

머신 러닝 모델은 새로운 위치에서 정지 신호를 식별하거나 프로 선수의 경기력을 예측할 수 있는 수준에 도달하기 위해 훈련 과정을 거칩니다. 자율주행 자동차의 경우 개발자는 모델에 수천 또는 수백만 개의 정지 표지판 이미지를 제시했습니다. 이 모델을 적용하는 자동차는 운전자를 보조로 두고 실제 도로를 주행하면서 시행착오를 통해 학습할 수 있습니다. 결국 충분한 훈련 끝에 이 모델은 스스로 정지 표지판을 식별할 수 있게 되었습니다.

AI 추론의 사용 사례에는 어떤 것이 있을까요?

실제 AI 앱의 대부분은 AI 추론에 의존합니다. 가장 일반적으로 사용되는 몇 가지 예시는 다음과 같습니다.

• 대규모 언어 모델(LLM): 샘플 텍스트로 훈련된 모델은 이전에 본 적이 없는 텍스트를 구문 분석하고 해석할 수 있습니다.
• 예측 분석: 과거 데이터를 사용하여 모델을 훈련시킨 다음 추론 단계에 도달하면 수신 데이터를 기반으로 예측을 수행할 수 있습니다.
• 이메일 보안: 스팸 메일이나 비즈니스 이메일 손상 공격을 머신 러닝 모델이 인식하도록 훈련시킨 다음 수신 이메일 메시지를 추론하여 이메일 보안 필터가 악성 이메일 메시지를 차단할 수 있도록 합니다.
• 무인 자동차: 위의 예시에서 설명한 바와 같이 추론은 자율주행 자동차에 매우 중요합니다.
• 연구: 과학 및 의학 연구는 데이터 해석에 의존하며 AI 추론을 사용하여 해당 데이터에서 결론을 도출할 수 있습니다.
• 금융: 과거 시장 성과를 훈련시킨 모델은 결과를 보장할 수는 없지만, 미래 시장 성과를 추론할 수는 있습니다.

AI 훈련은 어떻게 작동하나요?

AI 훈련의 본질은 AI 모델에 대규모 데이터 세트를 제공하는 것입니다. 이러한 데이터 세트는 정형 또는 비정형 데이터이며, 레이블이 지정되거나 지정되지 않은 데이터일 수도 있습니다. 일부 유형의 모델에는 입력값과 원하는 출력값에 대한 구체적인 예시가 필요할 수 있습니다. 딥 러닝 모델과 같은 다른 모델에는 원시 데이터만 필요할 수도 있습니다. 궁극적으로 모델은 패턴이나 상관관계를 인식하고 새로운 입력을 기반으로 추론하는 방법을 학습합니다.

훈련이 진행됨에 따라 개발자는 모델을 미세 조정해야 할 수도 있습니다. 초기 훈련 과정 직후에 몇 가지 추론을 제공한 다음 해당 출력값을 조정할 수 있습니다. AI 모델이 반려동물 사진 데이터 세트에서 강아지 사진을 식별하는 임무를 받았다고 가정해 보겠습니다. 이 모델이 강아지 사진 대신 고양이 사진을 식별해야 한다면 약간의 조정이 필요합니다.

추론과 훈련의 AI 컴퓨팅 전력 사용량은 얼마나 다른가요?

AI 프로그램은 컴퓨터의 기능을 이전보다 훨씬 더 확장합니다. 하지만 여기에는 '2 + 2'와 같은 문제를 푸는 것보다 복잡한 수학 방정식을 풀 때 더 많은 몰입과 집중력이 필요한 것처럼 기존 컴퓨터 프로그램보다 훨씬 더 많은 처리 능력이 필요하다는 대가가 따릅니다.

AI 모델을 학습시키는 것은 컴퓨팅 성능 측면에서 매우 많은 비용이 들 수 있습니다. 하지만 이는 일회성 비용에 불과합니다. 이상적으로는 모델이 제대로 학습되면 추가 학습이 필요하지 않습니다. 모델을 새로운 사용 사례에 맞게 조정해야 하는 경우 개발자는 모델을 처음부터 다시 학습시키는 대신 Low-Rank Adaptation(LoRA)과 같은 덜 집약적인 기술을 사용할 수 있습니다.

하지만 추론은 현재 진행 중입니다. 모델이 활발하게 사용되고 있다면 지속적으로 새로운 데이터로 훈련하고 추가로 더 많은 추론을 수행하게 됩니다. 이 작업에는 상당한 컴퓨팅 성능이 필요하며 비용이 많이 들 수 있습니다.

개발자가 Cloudflare를 통해 AI 추론을 실행하는 방법은 무엇인가요?

Cloudflare Workers AI는 개발자에게 전 세계 GPU에 대한 액세스를 통해 AI 작업을 실행할 수 있는 서비스를 제공합니다. 이는 머신 러닝 모델용 임베딩을 생성하고 저장하는 서비스인 Vectorize와 함께 사용됩니다. 또한, Cloudflare는 비용 효율적인 오브젝트 스토리지 플랫폼인 R2를 통해 송신료 없이 훈련 데이터의 수집과 저장을 용이하게 합니다.

Cloudflare를 통해 개발자가 에지에서 AI 추론을 실행하는 방법을 자세히 알아보세요.

FAQ

AI 학습과 AI 추론의 차이는 무엇입니까?

AI 학습은 모델이 학습하는 AI 개발의 초기 단계이며, AI 추론은 학습된 모델이 새로운 데이터에 지식을 적용하여 예측하거나 결론을 내리는 후속 단계입니다.

AI 훈련은 어떻게 작동하나요?

AI 학습은 구조화되었거나 비구조화된 대규모 데이터세트를 모델에 제공하는 과정을 포함합니다. 모델은 이 데이터를 통해 패턴과 상관관계를 인식하는 방법을 학습합니다. 개발자는 초기 출력 결과를 수정하며 모델을 세밀하게 조정할 수도 있는데, 이는 시행착오를 통해 가르치는 과정과 유사합니다.

AI 추론의 예시는 무엇이 있습니까?

자율주행차가 새로운 도로에서 정지 표지판을 인식하는 것도 추론의 예입니다. 차량을 제어하는 모델은 이전에 경험하지 못한 상황에 학습 내용을 적용하여 정확하게 식별하고 있습니다.

학습 또는 추론 중 어떤 프로세스가 더 많은 컴퓨팅 성능을 사용합니까?

AI 모델을 학습시키는 것은 계산 자원 측면에서 매우 비용이 많이 들 수 있지만, 일반적으로 일회성 비용입니다. 반면, 추론은 모델이 새로운 데이터에 적극적으로 적용되면서 상당한 계산 자원을 지속적으로 사용하는 과정입니다.

AI 추론의 일반적인 사용 사례는 무엇입니까?

실제 세계의 거의 모든 AI 애플리케이션은 추론에 의존합니다. 일반적인 예로는, 새로운 프롬프트에 응답하는 대규모 언어 모델(LLM), 개발자가 애플리케이션을 만들 때 사용하는 ‘바이브 코딩’, 예측 분석을 통한 전망 작성, 사이버 보안 제품이 새로운 맬웨어 유형을 식별하는 경우, 금융 모델이 시장 성과를 예측하는 경우 등이 있습니다.