llama_special_tokens_map.json 123 Bytes
Newer Older
1
2
3
4
5
6
7
{
  "pad_token": "<0x00>",
  "unk_token": "<unk>",
  "cls_token": "<s>",
  "sep_token": "</s>",
  "mask_token": "<mask>"
}