글 안 쓰는 AI ‘Jev’, 200배 빠르다는 말의 실제 크기

답을 쓰는 대신 답을 고른다

TypeSafe AI는 Jev를 ‘System One 모델’의 첫 번째 제품이라고 부른다. 심리학자 대니얼 카너먼이 말한 빠르고 직관적인 사고(시스템 1)에서 따온 이름이다. 창업자 디오구 알메이다는 ChatGPT의 바탕이 된 InstructGPT 논문의 공저자 약 20명 가운데 한 명이다. 그는 Latent Space 인터뷰에서 Jev의 소비자는 사람이 아니라 코드라고 말했다.

쓰는 법은 단순하다. 판단할 글과 질문을 보내면, 질문마다 정해 둔 형식의 답이 확률과 함께 한 번에 돌아온다. 형식은 세 가지뿐이다. 글을 한 글자씩 생성하지 않으니 출력 토큰 요금이 없고, 응답이 짧다.

할 수 없는 일도 분명하다. ITmedia는 문장 생성, 수학 같은 ‘시스템 2’ 추론, 이미지 입력, 판단 이유 설명이 안 되고 특정 분야 지식도 따로 배우지 않았다고 정리했다. 한 사용자는 주사위 눈의 확률조차 맞히지 못했다고 전했다. Jev는 LLM을 대체하는 모델이 아니라 LLM 앞에 세우는 관문에 가깝다.

확신도가 높으면 통과, 낮으면 비싼 쪽으로

ITmedia 기사 제목이 이 모델의 쓰임새를 가장 잘 요약한다. “똑똑한 if문으로 생각해 보라.” 확신도가 기준 이상이면 코드가 그대로 처리하고, 못 미치면 LLM이나 사람에게 넘긴다. 문의 분류, 우선순위 매기기, AI 에이전트 출력 검사, 대량 데이터 분류가 여기에 맞는다.

관건은 얼마나 많은 건이 첫 관문에서 끝나느냐다. 아래 계산기는 판정을 전부 LLM에 맡길 때와, Jev가 먼저 거르고 나머지만 LLM에 넘길 때의 월 비용을 비교한다. 넘어간 건은 Jev 요금도 이미 낸 상태로 계산했다.

추정치다. LLM 쪽은 건당 출력 200토큰을 더해 계산했고, Jev는 입력 100만 토큰당 $0.042 목록가만 넣었다. 캐시·배치 할인, 재시도, 네트워크 비용은 빠져 있다.

‘193.6배’는 어떻게 나온 숫자인가

공식 블로그의 193.6배·444.6배는 네 가지 업무 중 가장 단순한 것을 공개한 값이다. 경쟁 모델도 TypeSafe의 어댑터를 거쳐 구조화 출력만 내게 했고, 기준 답은 사람이 매긴 정답이 아니라 GPT-6 아스트라와 Fable 5.1의 평균이었다. 회사 스스로도 “실사용 이득의 높은 쪽 끝”일 것이라고 적었다.

지디넷코리아 칼럼(안광섭)은 이를 두고 “가장 느린 모델과 가장 비싼 모델을 분모로 삼아 배수를 키운 셈”이라고 짚었다. 독립 측정은 비교 상대가 크면 수십 배, 작으면 한 자릿수 배로 모인다. 서버가 미국 서부에 가까워 일본에서 부르면 요청당 0.5~0.6초가 걸렸다는 실측도 Zenn 글에 인용됐다. 한국에서도 비슷한 왕복 시간을 감안해야 한다.

‘환각이 없다’와 ‘맞힌다’는 다른 말이다

Jev가 환각을 일으키지 않는다는 말은 형식에 관한 것이다. 허락된 선택지 밖의 답을 낼 수 없으니 형식 오류가 0%다. 그 답이 맞는지는 별개다. AI타임스도 “판단 자체가 100% 옳다는 것은 별개”라고 적었다.

독립 벤치의 결론은 간단하다. “이게 피싱인가?”처럼 크게 물으면 약하고, “링크가 단축 주소인가?”, “기관을 사칭하면서 무료 메일을 쓰는가?”처럼 잘게 물은 답을 묶으면 강하다. 쪼개기가 도움이 된 쪽은 Jev뿐이었다. Haiku는 가장 좋은 단일 신호(94.2%)가 오히려 다섯 질문 묶음보다 높았다.

일본·중국은 붙여 보고, 한국은 읽는 중

일본 개발 커뮤니티 Zenn에서는 9월 22일 ‘다들 Jev 얘기뿐, 안 해본 건 나뿐’이 좋아요 144개를 모았다. 정작 이 글의 필자는 직접 써 보지 않고 공개 자료를 정리했다는 점이 흥미롭다. 그 뒤를 이은 글들은 대부분 직접 만든 기록이다. 중국 개발 커뮤니티 쥐에진(掘金)에서는 Jev를 ‘벙어리 모델(哑巴模型)’이라 부르는 해설 글과 ‘Codex에 Jev를 붙이면 날아간다’ 같은 활용 글이 이어졌다.

한국에서는 9월 20일 AI타임스와 지디넷코리아, 21일 AI매터스와 개발 블로그 Dale Seo가 개념을 정리했다. 다만 일본처럼 ‘이렇게 붙여 봤다’는 실전 기록은 아직 드물다.

공개부터 2주, 확산 순서

붙이기 전에 확인할 여섯 가지

독립 벤치 정리 글과 일본 실전 기록에서 공통으로 나온 권고를 추렸다.

자주 묻는 것