From 50c194a52162682ef819151169f6ab23d71324da Mon Sep 17 00:00:00 2001 From: p04896573 Date: Tue, 27 Aug 2024 16:59:28 +0800 Subject: [PATCH] Update README.md --- README.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/README.md b/README.md index a1f40ac..da3186e 100644 --- a/README.md +++ b/README.md @@ -9,7 +9,7 @@ ## 版本更新内容 具体的迭代信息如下: - 训练:升级了训练代码,提升GPU利用率和并行化,并且2B模型能兼容transformers中的tokenizer(LlamaTokenizerFast) -- 推理:支持vllm进行模型推理和部署,可以接入langchain、openai等部署方式;同时可以将端侧模型可以支持GGUF等多种部署格式的部署 +- 推理:支持vllm进行模型推理和部署,可以接入langchain、openai等部署方式;同时可以支持2b模型转换成GGUF等多种部署格式的部署 - 由于新架构中多数据集验证发现2B模型进行lora训练效果不及全参数微调,因此建议2B模型全参数微调,8B模型LORA微调在master分支进行 ## 2024.08.19 NOTICE