AI의 모든 판단에 거대 모델이 필요할까요?

2026년 10월 5일 발행한 글입니다. 10월 9일 발표된 Clef-omni와 요금·입력 한도 변경은 본문 하단의 업데이트에 추가했습니다.

고객 문의가 하나 들어왔다고 가정해 보겠습니다. “결제는 됐는데 주문 내역이 보이지 않습니다.” 답변을 쓰기 전에 먼저 정할 일이 있습니다. 결제팀에 보내야 할까요, 기술지원팀이 봐야 할까요? 지금 바로 처리할 문제인지, 주문 번호를 더 물어봐야 하는지도 판단해야 합니다.

이런 일을 AI에 맡길 때는 큰 언어 모델에 문의 내용과 업무 규칙을 함께 넣는 방법을 떠올리기 쉽습니다. 그런데 지금 필요한 결과가 긴 답변이 아니라 담당팀 이름 하나라면 어떨까요. 매번 문장을 만들어내는 모델을 거쳐야 할 이유가 있을까요?

10월 1일 공개된 Strands Decider 2B와 Cloudflare Clef는 이 질문을 살펴보게 하는 소식입니다. 두 모델 계열은 주어진 선택지 가운데 답을 고르거나 점수를 매기는 ‘결정 모델’을 지향합니다. AI가 하는 일을 조금 더 잘게 나누고, 반복되는 판단을 별도로 맡기려는 시도입니다. Strands 공식 발표 · Cloudflare 공식 발표

답변을 쓰는 일과 담당팀을 고르는 일

고객에게 보낼 답변은 상황마다 달라집니다. 무엇이 불편했는지 이해하고, 확인된 사실을 설명하고, 다음 절차를 안내해야 합니다. 여기에는 문장을 만들고 여러 정보를 연결하는 능력이 필요합니다.

반면 문의를 결제·기술지원·계정 관리 중 어디로 보낼지 정하는 일은 결과의 범위가 좁습니다. 입력되는 문의는 다양해도, 돌아와야 하는 답은 미리 정한 선택지 안에 있습니다. 결정 모델은 이런 일을 맡도록 만들어졌습니다. 질문과 선택지를 함께 주면, 각 선택지의 가능성을 나타내는 수치와 정해진 형식의 답을 돌려줍니다.

예를 들어 “이 문의는 긴급한가요?”와 “어느 팀이 처리해야 하나요?”를 함께 물을 수 있습니다. 그 결과를 받은 프로그램은 담당팀의 대기 목록에 넣거나, 추가 확인이 필요한 건을 사람에게 넘길 수 있습니다. 앞의 고객 문의와 팀 구분은 이해를 돕기 위한 가상 예시입니다.

일반 언어 모델도 이런 분류를 할 수 있습니다. 차이는 분류를 수행하는 방식에 있습니다. 두 제품은 자유로운 답변을 차례로 생성하는 대신, 허용된 답에 점수를 매기는 구조를 택했습니다. 결과를 문장에서 다시 추출하는 일을 줄이고, 다음 작업으로 연결하기 쉽게 만드는 방향입니다.

고객 문의에서 담당팀을 고르는 예시입니다. 선택지는 업무에 맞게 정하고, 불확실한 경우를 처리할 경로도 별도로 설계해야 합니다.

출처: 자료: Strands Agents·Cloudflare / 도식: VECTORLOG

Strands Decider는 작은 모델로 직접 실험하는 쪽에 가깝습니다

Strands Decider 2B는 약 20억 개 매개변수 규모의 모델입니다. Strands 팀은 로컬 CPU나 GPU에서 실행하면서 빠르게 실험할 수 있도록 만들었다고 설명합니다. 모델 가중치뿐 아니라 학습에 사용한 데이터와 스크립트도 공개했습니다. 공식 GitHub 저장소

구조를 풀어보면, 기존 언어 모델에서 문장을 생성하는 부분을 떼고 선택지를 평가하는 부분을 붙인 방식입니다. 말을 잘 이어 쓰는 능력보다 주어진 후보를 잘 구분하는 데 역할을 좁힌 셈입니다. 이 때문에 복잡한 추론이나 문서 요약까지 같은 모델에 맡기는 용도로 이해하면 맞지 않습니다.

공식 발표의 날씨 도구 예시는 쓰임새를 쉽게 보여줍니다. 사용자가 도시를 말하지 않았는데 AI가 임의로 도시를 골라 날씨를 조회하려는 상황입니다. 도구가 실행되기 전에 Decider가 대화와 호출 내용을 보고, 그 도시가 사용자가 제공한 정보인지와 지금 도구를 실행해도 되는지를 판단합니다.

판단 결과를 받은 프로그램은 AI가 다시 도시를 물어보도록 돌려보낼 수 있습니다. 다만 Strands 팀도 이 예시의 질문과 기준값을 직접 정했으며, 권장 운영 설정이 아닌 설명용 사례라고 밝혔습니다. 모든 잘못된 도구 호출을 막아준다는 뜻은 아닙니다. 구조와 도구 호출 예시

Clef는 운영 서비스와 업무별 조정을 함께 제시합니다

Cloudflare는 Clef와 Clef-flash 두 모델을 공개했습니다. 공식 모델 안내에서 Clef는 270억 개, Clef-flash는 90억 개 매개변수 규모로 소개됩니다. Strands Decider와 같은 크기의 작은 모델 두 개로 생각하면 차이를 놓치게 됩니다. Cloudflare는 Clef를 정밀한 판단에, Clef-flash를 응답 시간이 중요한 판단에 쓰는 방향으로 설명합니다. Clef 안내 · Clef-flash 안내

이쪽은 Cloudflare의 AI 실행 서비스인 Workers AI에서 호출할 수 있습니다. 가중치도 Apache 2.0 라이선스로 공개해 직접 실행하고 실험할 수 있도록 했습니다. 공식 문서의 예시는 고객지원 요청 하나를 놓고 긴급도, 담당팀, 영향의 크기를 함께 묻습니다. 문의를 읽은 다음 프로그램이 어떤 처리를 해야 할지 정하기 위한 구성입니다.

Cloudflare가 함께 내놓은 방향은 회사별 업무에 맞게 모델을 추가 학습시키는 서비스입니다. 같은 ‘긴급 문의’라도 쇼핑몰과 기업용 소프트웨어 회사의 기준은 다를 수 있습니다. 이런 차이를 실제 업무 데이터로 반영하려는 것입니다.

발표 당시에는 전문 엔지니어 팀이 고객과 함께 조정하는 방식부터 제공하고, 고객이 직접 학습과 재배포를 하는 플랫폼은 이후 구축할 계획이라고 설명했습니다. 누구나 바로 쓰는 완성된 셀프서비스 학습 도구가 함께 출시된 것으로 읽어서는 안 됩니다. Cloudflare의 서비스 설명

선택지가 정해져 있어도 판단은 틀릴 수 있습니다

결정 모델이 허용된 형식으로 답한다는 점은 프로그램을 연결할 때 유용합니다. 하지만 ‘결제팀’이라는 올바른 형식의 결과가 나왔다고 해서 실제로 결제팀이 처리할 일이라는 보장은 없습니다.

처음의 문의를 다시 보면 이유를 알 수 있습니다. 결제 승인 정보가 늦게 들어온 문제일 수도 있고, 주문 내역을 보여주는 화면의 오류일 수도 있습니다. 고객이 다른 계정으로 로그인했을 가능성도 있습니다. 짧은 문장만으로는 구분에 필요한 정보가 부족합니다.

모델이 돌려주는 확률이나 신뢰도 점수도 그 자체로 정답 보증서는 아닙니다. 높은 점수를 받은 판단이 실제 문의에서도 얼마나 자주 맞는지 확인해야 합니다. ‘기타’나 ‘추가 확인’ 같은 선택지를 둘지, 어떤 경우에는 사람이 볼지를 정하는 일도 남습니다. Strands의 평가 문서도 부정형 질문이나 처음 보는 점수 기준 등에서 약점을 보고합니다. 공개된 평가와 한계

이 점은 도구 선택에서도 같습니다. 주문 조회 도구와 배송 조회 도구 중 무엇을 쓸지 고르는 것과, 그 도구로 고객 정보에 접근하거나 주문을 취소해도 되는지는 별개의 문제입니다. 결정 결과를 실제 행동으로 바꾸는 프로그램에는 권한과 승인 절차가 여전히 필요합니다.

선택과 실행, 답변 작성은 서로 다른 단계입니다. 결정 모델은 후보 도구를 고르고, 실행 전 검증과 실제 실행은 애플리케이션이 맡으며, 생성형 모델은 조회 결과를 설명할 수 있습니다.

출처: 자료: Strands Agents·Cloudflare / 도식: VECTORLOG

더 빨리 고른다는 말은 어디까지 유효할까요

두 팀 모두 속도와 판단 성능에 대한 평가를 공개했습니다. 다만 서로 다른 환경에서 측정한 수치를 나란히 놓고 어느 제품이 몇 배 빠르다고 결론 내리기는 어렵습니다. Strands 발표의 지연시간 그래프는 로컬 RTX 3090에서 측정한 v18 모델 결과이며, 공개 모델은 v19입니다. Cloudflare가 공개한 평가도 별도 결과이며, 공개 자료만으로 모든 측정 조건을 동일하게 맞췄는지 확인할 수 없습니다. Strands 측정 설명 · Cloudflare 평가 설명

실제 업무에서 줄어드는 시간은 모델의 응답 속도만으로 정해지지 않습니다. 잘못 배정된 문의를 다시 보내는 시간, 추가 질문을 하는 횟수, 사람이 수정하는 시간까지 포함됩니다. 자주 반복되고 기준이 비교적 분명한 판단이라면 별도 모델을 두는 이점이 있을 수 있습니다. 반대로 맥락이 부족하거나 예외가 많은 일이라면 확인하는 과정이 더 중요해집니다.

비용도 같은 이유로 실제 흐름에서 봐야 합니다. 큰 모델 호출을 줄일 가능성은 있지만, 작은 모델을 하나 더 넣었다는 사실만으로 전체 비용이 내려가지는 않습니다. 실행 환경을 운영하고 결과를 검토하는 비용도 있기 때문입니다.

AI에게 맡길 일을 나누는 기준

Strands Decider와 Clef를 함께 보면, AI를 고르는 질문이 조금 달라집니다. 어떤 모델이 가장 똑똑한지에 더해, 지금 필요한 결과가 무엇인지 먼저 생각하게 됩니다.

담당팀을 고르는 단계에는 제한된 선택지가 있습니다. 필요한 정보를 더 묻는 단계에는 대화가 필요합니다. 고객에게 설명하는 단계에는 사실을 연결하고 문장을 쓰는 능력이 필요합니다. 하나의 문의 안에도 서로 다른 일이 들어 있습니다.

결정 모델이 흥미로운 지점은 그중 일부를 따로 맡길 수 있다는 데 있습니다. 모든 판단을 같은 모델에 모으기보다, 반복되는 선택과 복잡한 설명을 나누는 방식입니다. 두 제품의 발표만으로 어느 업무에서 얼마나 효과가 날지 확정할 수는 없습니다. 다만 AI 시스템을 만들 때 살펴볼 선택지는 늘어났습니다.

AI가 업무를 더 많이 맡을수록, 어느 단계에 어떤 능력이 필요한지 구분하는 일도 중요해질 것 같습니다. 거대 모델이 필요한 순간과, 정해진 후보 중 하나를 고르면 되는 순간을 구별하는 데서 설계가 달라질 수 있기 때문입니다.

2026-10-09 발표 후속 업데이트: 소리와 영상으로 판단하는 Clef-omni

Cloudflare가 Clef-omni를 발표했습니다. 텍스트·이미지와 함께 오디오 파일과 소리가 포함된 영상을 한 번에 받아 판단합니다. 미리 정한 질문과 허용된 선택지에 확률을 매기는 결정 모델이며, 자유로운 답변이나 음성을 생성하는 용도가 아닙니다. 공식 모델 카드

운영 서비스의 가격과 입력 한도도 달라졌습니다. 아래 금액은 발표일 기준 입력 100만 토큰당 미국 달러 요금입니다.

• Clef-flash: $0.09에서 $0.038로 인하. 대신 호스팅 서비스의 문맥 길이는 64k에서 24k로 줄었습니다.
• Clef: $0.24와 64k 문맥 길이를 유지합니다.
• Clef-omni: $0.15로 출시됐습니다.

Clef-flash의 공개 가중치는 이번 한도 축소와 별개입니다. 직접 호스팅할 때는 학습상 지원 범위와 실제 실행 환경을 따로 확인해야 합니다. 이미지·오디오 입력에는 토큰 환산 기준이 적용되므로, 파일 크기만으로 호출 비용을 판단하기는 어렵습니다.

기존 Clef의 속도 개선은 Workers AI의 제공 환경을 최적화한 결과입니다. Cloudflare는 약 3,400토큰 입력에서 중앙값 지연시간이 616ms에서 305ms로 줄었다고 보고했습니다. 모든 입력이나 실제 업무 전체가 두 배 빨라진다는 의미는 아닙니다. 2026년 10월 9일 공식 발표

분류할 자료의 종류는 넓어졌지만, 잘못된 판단을 확인하고 실행 권한을 점검하는 과정은 여전히 필요합니다. 기존 업무에서는 가격 인하와 함께 짧아진 입력 한도가 영향을 주는지도 먼저 살펴봐야겠습니다.

이 업데이트는 2026년 10월 10일 한국 시간에 공식 발표와 모델 카드를 확인해 추가했습니다. API 호출과 한국어 업무 성능을 직접 시험한 결과는 아닙니다.

출처와 확인 기준 · 2026년 10월 5일 원문

• Strands Decider 2B 공식 발표 · 2026년 10월 1일
• Strands Decider 공식 저장소
• Cloudflare Clef 공식 발표 · 2026년 10월 1일
• Workers AI의 Clef 모델 문서
• Workers AI의 Clef-flash 모델 문서
• Strands Decider 평가와 한계
• Cloudflare Clef 모델 카드와 라이선스

2026년 10월 5일 한국 시간 기준으로 공식 자료를 확인했습니다. 공개 내용을 설명하고 해석한 기사이며, 두 모델을 직접 실행하거나 한국어 고객 문의로 성능을 측정한 후기는 아닙니다. 고객 문의와 업무 분담 사례는 이해를 돕기 위한 가상 예시입니다.