본문으로 건너뛰기
통제와 보안 · 모델 게이트웨이

모든 모델 호출에
권한과 한도를 적용합니다

벤더 API · 클라우드 · 게이트웨이 · 셀프호스팅 방식으로 공급자 23곳의 모델을 연결합니다. 모델마다 쓸 수 있는 사용자와 그룹, 일일 토큰 한도와 단가를 정해 비용을 관리합니다.

도입 문의
모델 연결의 공급자 목록
모델 연결의 공급자 목록실제 제품 화면
LLM 게이트웨이 · 코드 게이트웨이

모든 모델 호출에
같은 정책을 적용합니다

벤더 API, 클라우드, 게이트웨이, 셀프호스팅 등 23개 공급자의 모델을 한 게이트웨이에 연결합니다. 코딩 도구의 요청에도 같은 정책과 로그를 적용합니다.

코드 게이트웨이 처리 단계
1
사용자 인증발급 키로 개발자 확인
2
정책 검사차단 리포지토리·파일·명령
3
가드레일민감 정보 검사
4
허용 모델관리자가 지정한 모델로 처리
5
코딩 대화 로그호출 기록과 비용 집계
Claude CodeCodex CLIOpenCode+8

정책 위반은 기본적으로 경고로 기록하며, 관리자가 차단으로 바꿀 수 있습니다. 모델마다 사용할 수 있는 사용자와 그룹, 일일 토큰 한도와 단가를 설정해 비용을 관리합니다.

23곳모델 공급자4가지연결 방식모델별 권한 · 한도 · 단가
실제 제품 화면
코드 게이트웨이 정책과 허용 모델
판별 모델NEW

새로운 모델 유형,
판별 모델을 지원합니다

2026년 9월 TypeSafe가 공개한 Jev는 텍스트를 생성하지 않고, 지정된 선택지 중 하나를 확률과 함께 반환하는 판별 모델입니다. Syncgate는 모델 관리에 판별 모델 유형을 추가해 Jev와 같은 API를 제공하는 모델을 연결하고, 가드레일 AI 평가 · 자동 평가 · 검색 리랭커에 적용합니다.

모델 관리 · 모델 유형
채팅임베딩리랭커이미지가드NEW판별
System One API 호환 연결동일한 API를 사용하므로 연결만 바꿔 전환할 수 있습니다.
JJevTypeSafe공급사 API
JJevVercel AI Gateway게이트웨이
JJevDigitalOcean클라우드
OOpenJevCodiv호스팅
OOpenJevvLLM셀프호스팅
KKevOllama · vLLM셀프호스팅
3판정 유형예/아니오 · 선택 · 단계 점수
3적용 기능가드레일 AI 평가 · 자동 평가 · 검색 리랭커
6호환 연결공급사 API · 게이트웨이 · 클라우드 · 셀프호스팅

최신 버전 jev-1.13.0 · 버전 고정 지원

가드레일 AI 평가예시

예/아니오 판정 확률을 두 임계값과 비교해 처리 방식을 정합니다.

예/아니오고객 개인 연락처를 요청하거나 제공하는 내용인가?

고객 김민수 님 휴대폰 번호 좀 알려 줘.

차단 확률0.91
차단

기존 AI 평가는 통과 또는 차단으로만 판정합니다. 판별 모델은 확률을 반환하므로 두 임계값 사이의 요청은 차단하지 않고 판정 기록에 남깁니다.

통과
기록
차단
기록 임계값 0.35
차단 임계값 0.70
00.350.701

세 가지 판정 유형

입력을 한 번 읽고 여러 판정을 동시에 수행합니다. 모든 결과는 확률과 함께 반환되며, 각 기능은 이를 0–1 점수로 활용합니다.

Q. 연차는 며칠 전에 신청해야 하나요?A. 연차는 사용 3일 전까지 인사 시스템에서 신청합니다. [1]
단계 점수답변 유용성자동 평가
매우 낮음낮음보통높음매우 높음
3.4 / 4 → 0.85
선택가장 관련성 높은 문서검색 리랭커
인사 규정 5.20.74
휴가 FAQ0.18
복리후생 안내0.08
예/아니오근거 문서와의 모순 여부자동 평가
예0.04

모델별 사용처 지정

외부 서비스와 셀프호스팅 모델을 함께 연결하고, 기능별로 사용할 판별 모델을 지정합니다.

가드레일 AI 평가자동 평가검색 리랭커
JevTypeSafe · 외부 서비스
OpenJev셀프호스팅 · GPU
Kev셀프호스팅 · Ollama

새로 연결한 판별 모델은 사용처를 지정하기 전까지 어떤 기능에서도 선택할 수 없습니다.

지원 예정도구 호출 승인도구 선택
예/아니오 · 선택 · 단계 점수확률 기반 임계값모델별 사용처 지정System One API 호환폐쇄망 셀프호스팅
도입 효과

도입 전후 비교

도입 전

부서마다 따로 AI 계정을 만들어 비용과 사용 내역이 흩어져 있습니다.

도입 후

모든 모델 호출이 같은 게이트웨이를 거치므로, 사용량과 예상 비용을 한 화면에서 봅니다.

도입 전

승인하지 않은 모델에 사내 자료가 들어갈 수 있습니다.

도입 후

관리자가 승인한 공급자와 모델만 그룹 · 사용자별로 허용합니다.

도입 전

폐쇄망에서는 외부 모델을 쓸 수 없습니다.

도입 후

Ollama · vLLM · LM Studio · NVIDIA NIM 등으로 회사가 직접 운영하는 모델을 연결합니다.

동작 방식

4단계 진행 과정

01공급자 연결

공급자를 고르고 키나 주소를 입력한 뒤, 실제 호출로 연결을 확인합니다.

모델 연결 창의 연결 테스트 결과
주요 기능

모델 게이트웨이의 세부 기능

공급자 23곳

벤더 API · 클라우드 · 게이트웨이 · 셀프호스팅 네 가지 방식으로 연결합니다.

모델별 권한

모델마다 쓸 수 있는 사용자와 그룹을 정합니다.

일일 토큰 한도

사용자별 요청 수와 토큰 한도를 정합니다.

단가 · 예산

모델별 단가를 입력해 예상 비용을 계산하고 예산을 정합니다.

용도별 모델

대화 · 임베딩 · 리랭커 · 이미지 · 가드레일 모델을 따로 고릅니다.

판별 모델

정해진 선택지 중 하나를 확률과 함께 답하는 판별 모델을 가드레일과 평가에 씁니다.

관리자 설정

회사별 설정 항목

  • 승인한 공급자와 모델만 연결합니다.
  • 모델마다 사용자 · 그룹 권한과 토큰 한도를 정합니다.
  • 단가와 예산을 정해 비용을 관리합니다.
23곳모델 공급자
4가지연결 방식
모델별 권한 · 한도 · 단가

수치는 2026년 10월 제품 기준입니다.

관련 기능

함께 보면 좋은 페이지

코드 게이트웨이개발자의 코딩 도구에 회사 정책을 적용합니다가드레일개인정보를 가리고 위험한 요청을 막습니다평가 · 추적답변 품질을 채점하고 처리 과정을 기록합니다설치 · 운영사내 서버와 폐쇄망에 설치하고 업데이트합니다
자주 묻는 질문

모델 게이트웨이에 대해 자주 묻는 질문

어떤 공급자를 연결할 수 있나요?

OpenAI · Anthropic · Google · Amazon Bedrock · Azure 같은 공급자와 OpenRouter · LiteLLM 같은 게이트웨이, Ollama · vLLM · LM Studio · NVIDIA NIM 등으로 직접 운영하는 모델까지 모두 23곳을 연결할 수 있습니다.

폐쇄망에서도 쓸 수 있나요?

네. 사내 모델의 주소를 OpenAI 호환 방식으로 등록합니다. 인터넷에 연결되지 않은 환경에서 연결 확인부터 대화까지 동작을 검증했습니다.

한도를 넘으면 어떻게 되나요?

한도를 넘긴 대화는 끝까지 진행되고, 그다음 대화부터 제한됩니다. 사용자에게는 요청 한도를 넘었다는 안내가 표시됩니다.

우리 회사 문서로
직접 확인해 보세요

도입 상담에서는 사내 문서 일부를 연결해 실제 답변 품질을 확인하실 수 있습니다. 궁금한 점을 남겨 주시면 담당자가 연락드리겠습니다.

도입 문의보안 검토 자료 요청
기능 소개 영상실제 제품 화면 · 예시 기업 ACME 물류 · 16편