Models

Llama 3.1

70b

Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B-Instruct

825

689,527

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B-Instruct

825

689,527

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

2,050

256,488

N
Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B

372

48,538

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B

373

41,391

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-70B-Instruct-FP8

12

7,417

N
Warm

llama31-70b-16k

unsloth/Meta-Llama-3.1-70B-Instruct

4

5,885

U
Warm

llama31-70b-16k

Salesforce/Llama-xLAM-2-70b-fc-r

33

4,717

S
Warm

llama31-70b-16k

trend-cybertron/Llama-Primus-Nemotron-70B-Instruct

9

3,719

T
Warm

llama31-70b-16k

tokyotech-llm/Llama-3.1-Swallow-70B-Instruct-v0.1

4

2,607

T
Warm

llama31-70b-16k

deepcogito/cogito-v1-preview-llama-70B

77

2,332

D
Warm

llama31-70b-16k

NousResearch/Hermes-3-Llama-3.1-70B

114

2,254

N
Warm

llama31-70b-16k

aisingapore/Llama-SEA-LION-v3-70B-IT

2

2,078

A
Warm

llama31-70b-16k

unsloth/Meta-Llama-3.1-70B

1

1,901

U
Warm

llama31-70b-16k

marcelbinz/Llama-3.1-Centaur-70B

49

1,888

M
Warm

llama31-70b-16k

cyberagent/Llama-3.1-70B-Japanese-Instruct-2407

76

1,821

C
Warm

llama31-70b-16k

huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated

85

1,786

H
Warm

llama31-70b-16k

VAGOsolutions/Llama-3.1-SauerkrautLM-70b-Instruct

24

1,691

V
Warm

llama31-70b-16k

shenzhi-wang/Llama3.1-70B-Chinese-Chat

44

1,655

S
Warm

llama31-70b-16k

aisingapore/Llama-SEA-LION-v3.5-70B-R

1

1,651

A