ChatPDF

为ChatGLM/LLaMA等多种LLM提供了一个好用的基于PDF问答的图形界面

根据文件回答 / 开源模型 / 支持本地部署LLM

在线体验 · 一键部署

安装方式、使用方式

安装依赖

在终端中输入下面的命令，然后回车即可。

pip install -r requirements.txt

如果您在使用Windows，建议通过WSL，在Linux上安装。如果您没有安装CUDA，并且不想只用CPU跑大模型，请先安装CUDA。

如果下载慢，建议配置豆瓣源。

启动

请使用下面的命令。取决于你的系统，你可能需要用python或者python3命令。请确保你已经安装了Python。

python ChatPDF.py

如果一切顺利，现在，你应该已经可以在浏览器地址栏中输入 http://localhost:7860 查看并使用 ChatPDF 了。 如果您已经有下载好的本地模型了，设置model_name_or_path为对应的模型文件夹即可。