这是一个用纯Pytorch原生实现的RWKV大语言模型的推理框架。
修改来自yuunnn-w/RWKV_Pytorch,遵循GPLv3许可证协议。
This is an inference framework for the RWKV large language model implemented natively in pure Pytorch. Modified from yuunnn-w/RWKV_Pytorch following the GPLv3 license.
- 克隆仓库
git clone https://github.com/EliwiiKeeya/RWKV7_Pytorh.git
- 安装pytorch。
- 下载 RWKV7 模型,官方仓库地址:BlinkDL/rwkv-7-world.
- 修改
main.py
文件的MODEL_NAME
参数。 - 执行
python main.py
。
- Clone the repository
git clone https://github.com/EliwiiKeeya/RWKV7_Pytorh.git
. - Install pytorch.
- Download the RWKV7 model from the official repository: BlinkDL/rwkv-7-world.
- Modify the
MODEL_NAME
parameter in themain.py
file. - Execute
python main.py
.