PythonGitHub에서 보기 →
작은 런타임 분류·라우팅·근거 판단을 모델 확률로 처리하려는 개발자에게 유용하다.
- 선언된 선택지의 모델 로그릿으로 확률을 직접 읽는다.
- 답변 생성·JSON 복구·디코딩 루프 없이 단일 순전파를 사용한다.
- 같은 상태의 여러 기준을 위한 상태 프리필과 병렬 평가를 지원한다.
- 브라우저 전용 WebGPU 데모를 제공한다.
- 결과에 선택지 점수, 시간, 모델 리비전, 프롬프트 해시를 포함한다.
설치: pip install -e '.[test]' 후 semif-score 명령 실행