Models

Llama 3.1

70b

Warm

llama31-70b-16k

meta-llama/Meta-Llama-3.1-70B-Instruct

832

521,847

M
Warm

llama31-70b-16k

nvidia/Llama-3.1-Nemotron-70B-Instruct-HF

2,052

264,647

N
Warm

llama31-70b-16k

meta-llama/Llama-3.1-70B

375

48,387

M
Warm

llama31-70b-16k

cyberagent/Llama-3.1-70B-Japanese-Instruct-2407

76

6,878

C
Warm

llama31-70b-16k

Salesforce/Llama-xLAM-2-70b-fc-r

36

6,586

S
Warm

llama31-70b-16k

nvidia/Llama-3.1-70B-Instruct-FP8

12

5,995

N
Warm

llama31-70b-16k

unsloth/Meta-Llama-3.1-70B-Instruct

4

4,059

U
Warm

llama31-70b-16k

trend-cybertron/Llama-Primus-Nemotron-70B-Instruct

10

3,341

T
Warm

llama31-70b-16k

marcelbinz/Llama-3.1-Centaur-70B

64

2,116

M
Warm

llama31-70b-16k

allenai/Llama-3.1-Tulu-3-70B

58

2,044

A
Warm

llama31-70b-16k

deepcogito/cogito-v1-preview-llama-70B

78

1,489

D
Warm

llama31-70b-16k

NousResearch/Hermes-3-Llama-3.1-70B

116

1,461

N
Warm

llama31-70b-16k

perplexity-ai/r1-1776-distill-llama-70b

122

1,428

P
Warm

llama31-70b-16k

shenzhi-wang/Llama3.1-70B-Chinese-Chat

44

1,184

S
Warm

llama31-70b-16k

aisingapore/Llama-SEA-LION-v3-70B-IT

3

1,170

A
Warm

llama31-70b-16k

huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated

86

1,073

H
Warm

llama31-70b-16k

scb10x/llama3.1-typhoon2-70b-instruct

3

1,051

S
Warm

llama31-70b-16k

NousResearch/Meta-Llama-3.1-70B-Instruct

10

1,046

N
Warm

llama31-70b-16k

nbeerbower/Llama-3.1-Nemotron-lorablated-70B

16

987

N
Warm

llama31-70b-16k

mlabonne/Llama-3.1-70B-Instruct-lorablated

75

980

M