o7si d4c8e2c29c vocab : add tokenizer support for jina-embeddings-v2-base-zh (#18756) ...

* vocab : add jina-embeddings-v2-base-zh (whitespace tokenizer)

* lowercase defaults to true

* type fix

---------

Co-authored-by: Sigbjørn Skjæret <sigbjorn.skjaeret@scala.com>

2026-05-31 12:37:35 +02:00

..

__init__.py

mtmd: Add DeepSeekOCR 2 Support (#20975)

2026-05-29 16:13:51 +02:00

afmoe.py

…

arctic.py

…

baichuan.py

…

bailingmoe.py

…

base.py

vocab : add tokenizer support for jina-embeddings-v2-base-zh (#18756)

2026-05-31 12:37:35 +02:00

bert.py

vocab : add tokenizer support for jina-embeddings-v2-base-zh (#18756)

2026-05-31 12:37:35 +02:00

bitnet.py

…

bloom.py

…

chameleon.py

…

chatglm.py

…

codeshell.py

…

cogvlm.py

…

command_r.py

…

dbrx.py

…

deci.py

…

deepseek.py

mtmd: Add DeepSeekOCR 2 Support (#20975)

2026-05-29 16:13:51 +02:00

dots1.py

…

dotsocr.py

…

dream.py

…

ernie.py

…

exaone.py

…

falcon_h1.py

…

falcon.py

…

gemma.py

mtmd: fix gemma 4 audio rms norm eps (#23815)

2026-05-28 16:31:37 +02:00

glm.py

…

gpt2.py

…

gpt_oss.py

…

gptneox.py

…

granite.py

…

grok.py

…

grovemoe.py

…

hunyuan.py

mtmd, model : merge HunyuanOCR into HunyuanVL and fix OCR vision precision (#23329)

2026-05-21 00:35:37 +02:00

internlm.py

…

internvl.py

…

jais.py

…

jamba.py

…

januspro.py

…

kimi_linear.py

…

kimivl.py

…

lfm2.py

…

lighton_ocr.py

…

llada.py

…

llama4.py

…

llama.py

vocab : add Carbon-3B (HybridDNATokenizer) support (#23410)

2026-05-21 08:34:32 +02:00

llava.py

…

maincoder.py

…

mamba.py

…

mimo.py

…

minicpm.py

…

minimax.py

…

mistral3.py

…

mistral.py

…

mpt.py

…

nemotron.py

…

olmo.py

…

openelm.py

…

orion.py

…

pangu.py

…

phi.py

…

pixtral.py

…

plamo.py

…

plm.py

…

qwen3vl.py

…

qwen.py

convert : add compressed-tensors NVFP4 support (#21095)

2026-05-25 14:16:11 +02:00

qwenvl.py

…

refact.py

…

rwkv.py

…

sarashina2.py

…

smallthinker.py

…

smolvlm.py

…

stablelm.py

…

starcoder.py

…

step3.py

…

t5.py

…

talkie.py

model : add support for talkie-1930-13b (#22596)

2026-05-26 07:57:38 +03:00

ultravox.py

…

wavtokenizer.py

…

xverse.py

…

youtuvl.py

…