Models

Llama 2

7b

Warm

llama2-7b

lmsys/vicuna-7b-v1.5

374

198,441

L
Warm

llama2-7b

codellama/CodeLlama-7b-Instruct-hf

248

64,954

C
Warm

llama2-7b

defog/sqlcoder-7b-2

389

46,941

D
Warm

llama2-7b

EleutherAI/llemma_7b

111

699

E
Warm

llama2-7b

AlfredPros/CodeLlama-7b-Instruct-Solidity

15

144

A
Loading

llama2-7b

medalpaca/medalpaca-7b

88

4,265

M
Cold

llama2-7b

fnlp/Llama-2-7B-MHA-d_kv_256

3

9

F