draft_vocab_size

[tankpig]

请问如何确定draft_vocab_size的大小呀？

[tankpig]

代码中哪个部分可以确定draft_vocab_size

[liusong1222]

@tankpig draft_vocab_size大小由draft model config中的draft_vocab_size字段确定，以qwen3-4b为例可以参考angelslim/compressor/speculative/train/configs/qwen3-4b-eagle3.json，训练时draft model config以--draft_model_config_path传入。