200배 빠르고 400배 저렴한 AI, 직접 써본 결과

메타데이터

• 실제 업로드일: 2026-10-18
• 채널: 노마드 코더 Nomad Coders
• 원문 URL: https://www.youtube.com/watch?v=6oZC4Ed2vnY
• 영상 ID: 6oZC4Ed2vnY
• 원제: 200배 빠르고 400배 저렴한 AI⚡️직접 써본 결과?
• 길이: 5분 19초

---

📌 핵심 질문 및 주장

==모든 AI 작업에 긴 문장을 생성하는 챗봇이 필요한가, 아니면 코드가 바로 사용할 수 있는 선택·점수·확률만 빠르게 내놓는 판단 모델이 더 적합한가?== Jev는 대화 대신 정해진 형식의 판단을 반환하는 System One 모델로, 영상은 범용 GPT 계열 모델보다 약 200배 빠르고 400배 저렴하다고 소개한다.

• Jev는 자연어 답변을 생성하지 않고, 미리 정의한 선택지·척도·예/아니오 확률을 반환한다.
• JSON 스키마를 프롬프트로 강제하던 과정을 대체해 코드에서 바로 쓸 수 있는 정형 결과를 제공한다.
• 대량 분류·라우팅·실시간 의사결정처럼 선택지가 정해진 업무에서 속도와 비용을 낮출 수 있다.
• 선택지 안에서만 답하므로 형식 오류와 무관한 문장 생성은 막지만, 의미상 오답을 고를 수 있고 숫자·날짜 비교에는 약하다.
• OpenAI의 Decisions API도 비슷한 인터페이스를 제공하지만, 영상은 Jev가 처음부터 판단에 맞춰 설계된 모델이라는 차이를 강조한다.

1. 대화형 LLM과 System One 모델의 차이

1.1. 대화형 AI가 소프트웨어의 판단에 맞지 않는 이유

1. 대화형 모델은 사람을 만족시키는 문장을 생성하도록 학습된다.

   1. 범용 AI 모델은 사람과 대화하고 지시를 따르도록 훈련되어 있어, 소프트웨어가 바로 소비할 단일 분류값이 필요해도 문단 형태로 답하려는 경향이 있다.
   2. 발표자는 많은 모델이 자신 있게 말하다가 사용자가 틀렸다고 지적하면 사과하는 모습을 예로 들며, 사람을 기쁘게 하려는 목표가 사실 판단과 항상 일치하지 않는다고 지적한다.
   3. 긴 자연어 생성은 결과를 사람이 읽는 경우에는 유용하지만, 코드가 결과를 받아 다음 동작을 결정해야 할 때는 불필요한 토큰·지연·파싱 작업을 만든다.

2. 소프트웨어 자동화에는 문장보다 제한된 선택값이 필요한 일이 많다.

   1. 리뷰 감성 분석은 긍정·중립·부정 중 하나를 고르면 되며, 스팸 판정·모델 라우팅·매수/매도/보유 판단도 사전에 정의한 결과 중 하나를 반환하면 충분하다.
   2. 인간이 직접 읽을 설명이 아니라 프로그램이 곧바로 처리할 값이라면, 자연어 문장을 생성하는 챗봇의 범용성은 오히려 출력 계약을 지키도록 통제해야 하는 부담이 된다.

1.2. System One과 Jev의 설계

1. Jev는 대화가 아니라 빠른 판단을 위한 System One 모델이다.

   1. System One이라는 명칭은 대니얼 카너먼의 『생각에 관한 생각(Thinking, Fast and Slow)』에서 소개한 사고 체계에서 가져왔다.
   2. System Two는 느리고 숙고하는 추론을, System One은 빠른 직관적 판단을 가리킨다. 자막에서 두 번째 System One 설명이 System Two로 반복된 부분은 앞뒤 맥락에 맞게 바로잡았다.
   3. Jev는 예/아니오, A/B 선택, 확신도나 점수처럼 짧고 구조화된 결정을 맡는다. 잡담이나 생각을 소리 내어 풀어내는 답변은 목적이 아니다.

2. TypeSafe AI는 코드에 직접 넣을 수 있는 결과를 목표로 한다.

   1. 영상은 Jev를 샌프란시스코의 TypeSafe AI가 만든 제품으로 소개하고, ChatGPT 개발에 기여한 인물이 만든 연구소라는 배경을 언급한다.
   2. TypeSafe AI 창업자 Diogo Almeida의 소개 글은 OpenAI에서 ChatGPT의 기반이 된 지시 이행 방법론을 만드는 데 기여했다고 설명한다. 따라서 영상의 ‘ChatGPT 공동 개발자’라는 표현은 이 연구 기여를 가리키는 소개로 이해하는 편이 정확하다.
   3. Jev는 선택지 밖의 자연어 문자열을 자유 생성하는 대신, 개발자가 미리 정한 형식의 값과 그 판단의 불확실성을 함께 반환하도록 설계됐다.

2. 기존 LLM을 구조화하는 방법과 Jev의 사용 방식

2.1. GPT에 한 단어 답을 요구할 때 생기는 우회 작업

1. 프롬프트로 답변 형식을 제한하는 방법은 완전히 안정적이지 않다.

   1. 리뷰 감성을 물으며 “A, B, C 중 하나만 답하라”고 지시할 수 있지만, 모델이 선택값 뒤에 “물론 제 답은…”과 같은 설명을 덧붙일 수 있다.
   2. 결과가 코드의 허용 형식과 달라지면 후처리와 예외 처리가 필요해 자동화가 취약해진다.

2. JSON 구조화 출력은 결과 모양을 강제하지만 스키마 설정이 필요하다.

   1. 예시에서는 “이 리뷰의 감성은 무엇인가?”라는 질문에 대해 필드 하나와 허용값 세 개만 있는 JSON 스키마를 만들어 GPT에 전달한다.
   2. 모델은 원래 문단을 쓰려는 성향이 있는데도 스키마에 맞는 한 단어를 반환해야 하므로, 개발자는 출력 구조를 정의하고 결과를 파싱하는 절차를 마련한다.
   3. 구조화 출력은 사람이 읽을 문장 대신 프로그램이 사용할 값을 얻는 실용적인 방법이지만, 질의마다 제약을 설계하고 확인해야 하는 일이 남는다.

2.2. Jev의 입력·출력과 병렬 판단

1. Jev SDK는 질문과 기준을 한 번의 호출로 전달한다.

   1. 예시 호출에는 클라이언트, 리뷰 본문, 질문이 함께 들어가며, 지시문은 평이한 영어 질문으로 작성한다.
   2. 각 선택지는 한 줄 설명을 기준으로 지정하고, 응답은 해당 구조 그대로 돌아와 별도의 자연어 파싱 없이 코드에서 사용할 수 있다.
   3. 발표 화면은 Jev의 첫 번째 응답 형태인 선택(Choice)을 보여주며, 나머지 형태로 척도 점수(Score)와 예/아니오 판단의 확률도 제시한다.
   4. 영상에서는 이것이 Jev가 답하는 전체 어휘라고 설명한다. 자유 생성 문장 대신 선택·점수·확률이 출력 계약의 중심이다.

2. 같은 입력에 대한 여러 판단을 서로 독립적으로 동시에 실행할 수 있다.

   1. 리뷰 하나를 입력으로 두고 감성, 작성자의 열정 정도, 배송 지연 여부를 각각 질문한다.
   2. 세 판단은 같은 리뷰를 보지만 서로의 답을 보지 않고 동시에 실행되어, 감성 라벨·열정 점수·배송 지연 판정이 한 번에 모인다.
   3. 모든 리뷰·지원 티켓·메시지를 하루 종일 처리하는 서비스에서는 이런 병렬 질의가 누적 지연과 호출 비용을 줄이는 방향으로 작동한다.

3. 속도·비용·신뢰도와 한계

3.1. 처리량이 커질 때 커지는 비용 차이

1. 영상은 토큰 가격과 출력 비용의 차이를 비교한다.

   1. 영상의 비교 수치에서 GPT-6 Luna는 입력 토큰 백만 개당 10센트, 출력 토큰 백만 개당 50센트다.
   2. Jev는 입력 토큰 백만 개당 약 4센트이며 출력은 무료라고 소개된다. TypeSafe AI의 공식 안내 가격은 입력 백만 토큰당 4.2센트로 제시된다.
   3. 리뷰·티켓·메시지를 끊임없이 처리하면 출력이 긴 범용 모델의 비용이 쌓이므로, 고정된 선택값만 내는 방식은 특히 대량 처리에서 비용 이점이 커질 수 있다.

2. 영상의 핵심 성능 주장은 약 200배 빠르고 400배 저렴하다는 것이다.

   1. 제목과 도입부는 Jev가 GPT 계열 및 다른 범용 모델보다 약 200배 빠르고 400배 저렴하다고 주장한다.
   2. 화면에서 Jev와 GPT의 속도 차이를 비교하지만, 자막에는 정확한 개별 지연시간·벤치마크 조건·400배 비용 산식이 나오지 않는다. 따라서 해당 배수는 영상의 소개 주장으로 기록하고, 위의 토큰 단가와 구분한다.
   3. 서로 다른 형식의 업무를 단순 비교하기보다, 같은 판단을 같은 입력으로 수행하는 경우의 지연과 총비용을 별도로 확인해야 실제 서비스 절감액을 계산할 수 있다.

3.2. 닫힌 출력 공간의 장점과 오답 가능성

1. 선택지 밖의 응답을 만들지 않는 것과 정답을 맞히는 것은 다르다.

   1. Jev는 개발자가 제시한 옵션 가운데서만 선택하므로 옵션 밖에 있는 자유형 답변이나 스키마에 어긋난 출력은 억제한다.
   2. 그러나 선택지 안에서 잘못된 옵션을 고를 수 있다. 따라서 “환각할 수 없다”는 말은 출력 형식의 경계가 고정된다는 뜻이지, 모든 판단이 사실과 일치한다는 뜻은 아니다.
   3. 선택과 점수에는 신뢰도 점수가 따라오며, 예/아니오 방식에서는 해당 판단의 확률을 직접 확인할 수 있다.

2. 빠른 분류 모델이 모든 추론 업무를 대체하지는 않는다.

   1. 발표자는 Jev가 숫자와 날짜를 잘 다루지 못하고, 어느 값이 더 큰지 또는 어느 사건이 먼저인지 비교하는 일을 잘하지 못한다고 밝힌다.
   2. Jev는 범용 챗봇의 대체재가 아니며, 긴 설명·자유로운 글쓰기·복잡한 계산이 필요한 업무에는 다른 모델이나 별도 계산 로직이 필요하다.
   3. 강점은 “빠르고 저렴하며 목록에서 고른다”는 특성이고, 이 특성이 소프트웨어의 실제 판단 업무 상당 부분에 맞는다는 것이 발표자의 결론이다.

4. 적용 사례와 실제 사용 예

4.1. 선택형 판단이 들어가는 제품 기능

1. 다른 모델이나 업무 흐름으로 요청을 라우팅할 수 있다.

   1. 들어온 요청의 유형을 Jev가 분류한 뒤, 필요한 모델이나 후속 처리 경로를 선택할 수 있다.
   2. 모든 입력을 가장 비싼 모델에 보내는 대신 간단한 분류 결과를 먼저 얻어 적절한 처리 단계로 분기할 수 있다.

2. 기존 서비스 안의 실시간 분류·추천 기능에 넣을 수 있다.

   1. 스팸 여부를 판정하고, 금융 문맥에서는 매수·매도·보유 중 하나를 고르는 작업이 예시로 나온다.
   2. 사람들은 이미 Jev를 이용해 챗봇을 만들고 있다. 이 경우 사용자에게 보이는 대화는 다른 구성요소가 담당하고, Jev는 뒤에서 정형 판단을 제공하는 식으로 함께 쓸 수 있다.
   3. 비디오 게임에서는 왼쪽·오른쪽·위·아래처럼 제한된 행동 집합 중 다음 행동을 선택하는 데 활용할 수 있다.

4.2. 영상에서 든 비용·속도 사례

1. 게임 플레이와 대량 이메일 분류의 사례가 소개된다.

   1. 한 사용자는 Jev를 활용해 8달러 미만의 비용으로 9분이 되기 전에 Minecraft의 엔더 드래곤을 쓰러뜨렸다고 소개된다.
   2. 500개의 이메일을 몇 초 만에 분류하는 데 든 비용은 3.5센트였다고 제시된다.
   3. 두 사례는 짧은 지연시간과 낮은 단가가 반복 호출형 작업에서 새로운 자동화를 가능하게 한다는 취지로 제시된다.

2. 광고 분석과 영업 보조 사례가 소개된다.

   1. 경쟁사 광고 724개를 40초 만에 처리해 각 광고의 훅(hook), 제안(offer), 행동 유도 문구(call to action)를 뽑아낸 사례가 나온다.
   2. 실시간 영업 보조 도구는 통화를 듣고 현재 영업 단계가 어디인지 추적한 뒤 거래 성사 확률을 실시간으로 제시한다.
   3. 이런 업무는 결과를 사람에게 장문으로 설명하기보다 짧은 라벨·점수·확률로 전달할수록 다음 시스템이 바로 활용하기 쉽다.

5. OpenAI Decisions API와 소개된 교육 과정

5.1. 비슷한 API와 모델 설계의 차이

1. OpenAI는 영상 제작 중 비슷한 Decisions API를 내놓았다.

   1. API에 선택지 목록을 주면 한 가지 결과와 신뢰도 점수를 돌려준다는 점에서 Jev와 같은 문제를 다룬다.
   2. 영상은 OpenAI의 Decisions API가 내부적으로 GPT-6 Luna를 사용한다고 설명한다.

2. 발표자는 ‘기존 챗 모델을 제한하는 방식’과 ‘처음부터 판단용으로 만든 모델’을 구분한다.

   1. GPT-6 Luna는 사람을 만족시키는 대화형 모델에 목록 안에서만 고르도록 제약을 준 형태라고 소개된다.
   2. Jev는 애초에 챗봇으로 만들어진 모델이 아니라 System One 판단 모델이라는 점을 차별점으로 내세운다.
   3. 이 비교의 실질적인 평가는 API 이름보다 각 서비스의 정확도·확률 보정·지연시간·단가를 동일한 업무에서 비교해 내려야 한다.

5.2. Jev SDK 미니 강의와 채널의 안내

1. Jev SDK의 첫 요청부터 오류와 한계까지 다루는 미니 강의가 안내된다.

   1. 강의는 첫 번째 요청을 보내는 단계부터 오류 처리와 Jev의 실제 한계를 이해하는 단계까지 진행한다.
   2. 설명은 직접 실행할 수 있는 작은 Python 예제를 중심으로 구성됐으며 AX School 멤버십에 포함된다고 소개된다.

2. AX School 구독에 포함된 다른 교육 자료와 부가 자료도 안내된다.

   1. Jev 강의 외에 Claude Code, Flutter 프레임워크, Hermes 에이전트, OpenAI Agents API 강의가 포함된다고 소개된다.
   2. 구독자는 1년 동안 제작되는 전체 강의, 주간 보고서, 코드 보일러플레이트도 제공받는다고 안내된다.
   3. 발표자는 Jev의 활용 아이디어를 댓글로 남기고, 강의 링크를 확인하고, 채널을 구독해 달라고 요청하며 마무리한다.

주요 발언 모음

“Jev는 사람과 대화하는 챗봇이 아니라, 코드 안에서 빠르게 판단하도록 만들어졌다.”

“선택지 밖의 답을 만들지는 않지만, 선택지 안에서 틀린 답을 고를 수는 있다.”

“Jev는 빠르고 저렴하며, 옵션 중 하나를 고르는 방식으로 작동한다.”

“숫자나 날짜에서 무엇이 더 큰지, 무엇이 먼저인지 판단하는 일은 Jev가 잘하는 분야가 아니다.”

“GPT는 답변을 JSON 스키마에 맞추려면 구조를 지정해야 하지만, Jev는 질문과 기준을 넣으면 정해진 형태로 답을 돌려준다.”

핵심 데이터·수치

• 영상 길이: 5분 19초이며 실제 업로드일은 2026년 10월 18일이다.
• 속도 주장: 제목과 도입부는 Jev가 GPT 계열보다 약 200배 빠르다고 소개하지만, 자막에는 벤치마크 조건과 구체적인 지연시간이 제시되지 않는다.
• 비용 주장: 제목은 약 400배 저렴하다고 말하며, 본문 비교 가격은 GPT-6 Luna 입력 백만 토큰당 10센트·출력 백만 토큰당 50센트, Jev 입력 백만 토큰당 약 4센트·출력 무료다.
• 공식 Jev 입력 단가: TypeSafe AI 공식 소개 페이지는 입력 백만 토큰당 4.2센트, 출력 무료라고 제시한다.
• 복수 판단 예시: 리뷰 하나에서 감성·작성자의 열정·배송 지연 여부를 서로 독립적으로 동시 판정한다.
• Minecraft 사례: 엔더 드래곤을 9분 미만에 쓰러뜨린 비용이 8달러 미만이라고 소개된다.
• 이메일 사례: 이메일 500개를 몇 초 안에 분류하는 데 3.5센트가 들었다고 소개된다.
• 광고 사례: 경쟁사 광고 724개에서 훅·제안·행동 유도 문구를 추출하는 데 40초가 걸렸다고 소개된다.

결론 및 시사점

1. 소프트웨어가 받을 결과가 미리 정해져 있다면, 긴 문장을 생성하는 LLM 대신 선택·점수·확률 중심의 판단 모델을 사용하는 것이 더 단순하고 효율적일 수 있다.
2. Jev의 닫힌 출력 형식은 허용되지 않은 문자열과 파싱 부담을 줄이지만, 의미상 정답을 보장하지 않으므로 신뢰도와 오류 처리 설계를 함께 적용해야 한다.
3. 대량 이메일 분류, 티켓 라우팅, 광고 분석, 실시간 게임·영업 보조처럼 반복되는 제한형 판단은 실제 입력으로 정확도·응답시간·총비용을 벤치마크할 가치가 있다.
4. 숫자·날짜 비교와 복잡한 추론은 Jev의 한계로 명시되어 있으므로, 이 업무를 범용 모델·결정론적 코드와 분리해 적절한 도구에 맡겨야 한다.
5. OpenAI Decisions API와 Jev를 비교할 때는 같은 질문·같은 선택지·같은 데이터셋에서 정확도뿐 아니라 확률 보정, 지연시간, 토큰 비용, 운영 편의성을 함께 측정해야 한다.
6. 가장 현실적인 구성은 생성형 LLM이 설명과 복잡한 추론을 맡고, Jev 같은 판단 모델이 코드 내부의 빠른 분기와 반복 분류를 맡는 역할 분담이다.

핵심 요약 (20줄)

• Jev는 자연어 대화 대신 코드가 바로 사용할 선택·점수·확률을 반환하는 System One 판단 모델이다.
• System One은 빠른 판단을, System Two는 느리고 숙고하는 추론을 가리키며 Jev는 전자에 맞춰 설계됐다.
• TypeSafe AI는 Jev를 만들었으며 창업자 Diogo Almeida는 ChatGPT 기반 연구에 기여한 OpenAI 출신 인물이다.
• 대화형 LLM은 사람에게 설명하는 문장을 생성하므로 프로그램이 원하는 한 개의 라벨을 얻으려면 출력 제약이 필요하다.
• A·B·C 중 하나만 말하라는 프롬프트는 모델이 설명을 덧붙일 수 있어 완전히 안정적이지 않다.
• JSON 구조화 출력은 필드와 허용값을 강제하지만 스키마를 만들고 결과를 파싱하는 작업이 남는다.
• Jev는 질문과 기준을 한 번에 받고 별도 자연어 파싱 없이 정해진 구조로 결과를 돌려준다.
• Jev의 출력 방식은 선택(Choice), 척도 점수(Score), 예·아니오 판단의 확률이다.
• 리뷰 하나에서 감성·열정·배송 지연을 각각 독립적으로 동시에 판정할 수 있다.
• 반복 호출을 하루 종일 수행하면 입력·출력 토큰 단가와 응답 속도의 차이가 총비용에 영향을 준다.
• 영상은 GPT-6 Luna의 입력 단가를 백만 토큰당 10센트, 출력 단가를 50센트로 소개한다.
• 영상은 Jev의 입력 단가를 백만 토큰당 약 4센트, 출력 단가를 무료로 제시한다.
• 약 200배의 속도와 400배의 비용 절감이라는 Jev의 성능 주장은 벤치마크 조건과 산식이 공개되지 않아 검증이 필요하다.
• Jev는 선택지 밖의 문장을 만들지 않지만 선택지 안에서 의미상 오답을 고를 수 있다.
• 선택·점수에는 신뢰도 점수가 따라오며 예·아니오 결과는 확률로 확인할 수 있다.
• 숫자와 날짜의 대소·선후 비교는 약점이며 Jev는 범용 챗봇 대체재가 아니다.
• 요청 라우팅·스팸 분류·매수/매도/보유 판정·게임 행동 선택이 활용 예로 제시된다.
• Minecraft 엔더 드래곤 공략은 9분 미만·8달러 미만, 이메일 500개 분류는 수 초·3.5센트 사례로 소개된다.
• 경쟁사 광고 724개의 훅·제안·행동 유도 문구 추출은 40초, 실시간 영업 보조는 거래 성사 확률을 제공한다.
• OpenAI Decisions API도 선택과 신뢰도를 반환하지만 영상은 대화형 GPT-6 Luna 기반과 Jev의 전용 설계를 구분한다.