속도 순위

공급 네트워크가 관측한 p50 출력 처리량 정렬입니다. API가 tok/s 수치를 제공하지 않으며 미측정 모델은 뒤에 배치됩니다.

1. 1
   Relace: Relace Apply 3relace/relace-apply-3
   #1
2. 2
   Morph: Morph V3 Fastmorph/morph-v3-fast
   #2
3. 3
   Morph: Morph V3 Largemorph/morph-v3-large
   #3
4. 4
   ScaleDown: Extractscaledown/extract
   #4
5. 5
   OpenAI: gpt-oss-safeguard-20bopenai/gpt-oss-safeguard-20b
   #5
6. 6
   LiquidAI: LFM2.5-24B-A2Bliquid/lfm-2.5-24b-a2b
   #6
7. 7
   SpaceXAI: Grok 4.20 Multi-Agentx-ai/grok-4.20-multi-agent
   #7
8. 8
   OpenAI: gpt-oss-120bopenai/gpt-oss-120b
   #8

공급 네트워크의 p50 time-to-first-token 정렬이며 미측정 모델은 뒤에 배치됩니다. 모델의 고정 성능값이 아닙니다.

1. 1
   Baseten: Joey 1baseten/joey-1
   #1
2. 2
   Baseten: Elephant 1baseten/elephant-1
   #2
3. 3
   LiquidAI: d1liquid/d1
   #3
4. 4
   TypeSafe: Jev Latest~typesafe/jev-latest
   #4
5. 5
   TypeSafe: Jev 1.14typesafe/jev-1.14
   #5
6. 6
   Baseten: Mammoth 1baseten/mammoth-1
   #6
7. 7
   Thenlper: GTE-Largethenlper/gte-large
   #7
8. 8
   NVIDIA: Nemotron 3.5 Content Safetynvidia/nemotron-3.5-content-safety
   #8