Models

Llama 3.1

70b

Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B-Instruct

810

945,390

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B

365

83,050

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

2,040

22,372

N
Warm

llama31-70b-16k

unsloth/Meta-Llama-3.1-70B-Instruct

4

8,973

U
Warm

llama31-70b-16k

tokyotech-llm/Llama-3.1-Swallow-70B-Instruct-v0.1

4

6,807

T
Loading

llama31-70b-16k

hitachi-nlp/Llama-3.1-70B-FLDx2

3

3,330

H
Loading

llama31-70b-16k

unsloth/Reflection-Llama-3.1-70B

10

3,013

U
Warm

llama31-70b-16k

tokyotech-llm/Llama-3.1-Swallow-70B-Instruct-v0.3

10

2,948

T
Loading

llama31-70b-16k

allenai/Llama-3.1-Tulu-3-70B

54

2,597

A
Cold

llama31-70b-16k

jdh-algo/Citrus1.0-llama-70B

13

2,438

J
Cold

llama31-70b-16k

prithivMLmods/Magellanic-Llama-70B-r999

1

2,248

P
Warm

llama31-70b-16k

Salesforce/Llama-xLAM-2-70b-fc-r

25

2,003

S
Loading

llama31-70b-16k

aisingapore/llama3.1-70b-cpt-sea-lionv3-instruct

1

1,905

A
Warm

llama31-70b-16k

NousResearch/Meta-Llama-3.1-70B-Instruct

9

1,813

N
Warm

llama31-70b-16k

CYFRAGOVPL/Llama-PLLuM-70B-instruct

3

1,514

C
Warm

llama31-70b-16k

NousResearch/Hermes-3-Llama-3.1-70B

111

1,409

N
Warm

llama31-70b-16k

huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated

78

1,384

H
Warm

llama31-70b-16k

Blackroot/Mirai-3.0-70B

10

1,084

B
Warm

llama31-70b-16k

Blackroot/Mirai-70B-1.0

8

1,067

B
Warm

llama31-70b-16k

scb10x/llama3.1-typhoon2-70b-instruct

3

1,000

S