ACTIVE MODEL
개발 모드 · 모의 엔진과 모의 장비 데이터를 표시합니다. 실제 모델 성능이 아닙니다.
현재 모델
연결 중
확인 중
무엇을 도와드릴까요?현재 서빙 엔진에 질문을 입력하세요.
Enter로 전송 · Shift+Enter로 줄바꿈 · 대화는 계정별로 저장됩니다.
LIVE INFERENCE
서빙 정보
현재 엔진의 처리 단계와 요청별 실측입니다.
서빙 모델 전환
관리자 전용연결된 GPU 확인 중
테스트가 완료된 모델만 표시합니다.
Model state
대기입력 처리출력 생성대기열
요청 대기 중
tok/s · 입력 처리
tok/s · 출력 생성
ms · 첫 토큰 대기
ms · 전체 응답 시간
최근 요청
Strata Monitor 방식 · 요청별 처리 속도성능 추이
입력 처리와 출력 생성 tok/s · 좌측 Prefill / 우측 TG
응답 시간 ms · p50 / p95
부하와 대기 좌측 % / 우측 요청 수
MODEL LIBRARY
모델과 다운로드 신청
모델별 다운로드·파일 검증·실행 시험 단계를 확인하세요. 실제 서빙 여부는 홈에서 확인할 수 있습니다.
모델 목록
목록을 불러오는 중입니다.
새 모델 다운로드 신청
Hugging Face 또는 GitHub 모델 링크를 보내면 관리자가 확인합니다. 신청만으로 다운로드가 시작되지는 않습니다.
내 신청
MODEL DOWNLOADS
다운로드 큐
NAS에서 직접 내려받는 모델의 진행 상황입니다. 이 화면은 관리자에게만 보입니다.
진행 중
NAS 큐를 불러오는 중입니다.
남은 다운로드 큐
다운로드 신청
ADMINISTRATOR
가입 승인
신청을 확인하고 승인하거나 반려할 수 있습니다.
가입 신청
등록 계정과 이용 현황
ADMINISTRATOR
장비와 엔진
실시간 장비 상태
첫 표본을 기다리는 중GPUBMC엔진오류 감시
장비 정보를 불러오는 중입니다.1초 갱신 · 최근 2분