Models

Llama 3.1

70b

Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B-Instruct

851

855,789

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B-Instruct

851

855,789

M
Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B

385

47,312

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

2,055

12,596

N
Warm

llama31-70b-16k

unsloth/Meta-Llama-3.1-70B-Instruct

4

8,389

U
Warm

llama31-70b-16k

nvidia/Llama-3.1-70B-Instruct-FP8

12

8,174

N
Warm

llama31-70b-16k

NousResearch/Hermes-3-Llama-3.1-70B

118

5,585

N
Warm

llama31-70b-16k

NousResearch/Hermes-4-70B

147

5,439

N
Warm

llama31-70b-16k

marcelbinz/Llama-3.1-Centaur-70B

75

5,340

M
Warm

llama31-70b-16k

perplexity-ai/r1-1776-distill-llama-70b

126

2,185

P
Warm

llama31-70b-16k

mlabonne/Hermes-3-Llama-3.1-70B-lorablated

31

2,038

M
Warm

llama31-70b-16k

allenai/Llama-3.1-Tulu-3-70B

59

1,716

A
Warm

llama31-70b-16k

aisingapore/Llama-SEA-LION-v3.5-70B-R

2

1,619

A
Warm

llama31-70b-16k

Sao10K/L3.1-70B-Hanami-x1

42

1,394

S
Warm

llama31-70b-16k

deepcogito/cogito-v2-preview-llama-70B

20

1,325

D
Warm

llama31-70b-16k

huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated

88

1,315

H
Warm

llama31-70b-16k

unsloth/DeepSeek-R1-Distill-Llama-70B

10

1,228

U
Warm

llama31-70b-16k

shenzhi-wang/Llama3.1-70B-Chinese-Chat

44

1,176

S
Warm

llama31-70b-16k

NousResearch/Meta-Llama-3.1-70B-Instruct

10

1,138

N
Warm

llama31-70b-16k

deepcogito/cogito-v1-preview-llama-70B

78

1,030

D