Models

Llama 3.1

Warm

llama31-8b-16k

meta-llama/Meta-Llama-3.1-8B-Instruct

4,273

5,462,088

M
Warm

llama31-8b-16k

meta-llama/Llama-3.1-8B-Instruct

4,273

5,462,088

M
Warm

llama31-8b-16k

deepseek-ai/DeepSeek-R1-Distill-Llama-8B

765

1,099,578

D
Warm

llama31-8b-16k

meta-llama/Meta-Llama-3.1-8B

1,685

806,377

M
Warm

llama31-8b-16k

meta-llama/Llama-3.1-8B

1,685

806,377

M
Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B-Instruct

825

689,527

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B-Instruct

825

689,527

M
Warm

llama31-8b-16k

nvidia/Llama-3.1-Nemotron-Nano-8B-v1

190

405,070

N
Warm

llama31-8b-16k

meta-llama/Llama-Guard-3-8B

206

340,021

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

2,050

256,488

N
Warm

llama31-8b-16k

unsloth/Meta-Llama-3.1-8B-Instruct

76

166,827

U
Warm

llama31-8b-16k

Salesforce/Llama-xLAM-2-8b-fc-r

29

90,467

S
Warm

llama31-8b-16k

NousResearch/Hermes-3-Llama-3.1-8B

325

66,703

N
Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B

372

48,538

M
Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B

373

41,391

M
Warm

llama31-8b-16k

unsloth/Llama-3.1-8B-Instruct

5

39,674

U
Warm

llama31-8b-16k

unsloth/Meta-Llama-3.1-8B

41

36,650

U
Warm

llama31-8b-16k

akjindal53244/Llama-3.1-Storm-8B

176

24,303

A
Warm

llama31-8b-16k

KISTI-KONI/KONI-Llama3.1-8B-Instruct-20241024

2

21,473

K
Warm

llama31-8b-16k

aisingapore/Llama-SEA-LION-v3.5-8B-R

4

21,471

A