Skip to content

Commit

Permalink
fix doc
Browse files Browse the repository at this point in the history
  • Loading branch information
黄宇扬 committed Jul 23, 2024
1 parent 3b101e7 commit bf8ba72
Showing 1 changed file with 3 additions and 1 deletion.
4 changes: 3 additions & 1 deletion docs/custom.md
Original file line number Diff line number Diff line change
@@ -1,3 +1,5 @@
### 自定义模型

对于Fastllm框架中没有支持的模型,可以通过自定义模型结构来支持

Pyhton 自定义模型只需要一个python文件来描述模型结构,可参考 [QWEN](../example/python/qwen2.py) 中的实现
Expand All @@ -6,7 +8,7 @@ Pyhton 自定义模型只需要一个python文件来描述模型结构,可参

使用ftllm.chat, ftllm.webui, ftllm.server时,可以加入参数--custom来指定自定义模型文件

假设我们的模型位于 "~/Qwen2-7B-Instruct/" 目录,自定义模型位于 "~/qwen2.py"
假设我们的模型位于 `~/Qwen2-7B-Instruct/` 目录,自定义模型位于 `~/qwen2.py`

那么可以使用命令

Expand Down

0 comments on commit bf8ba72

Please sign in to comment.