ChatGLM-chinese-insturct

探索中文instruct数据在ChatGLM-6B上微调表现，结合PEFT等方法降低资源需求。

基于ChatGLM-6B和ChatGLM-Tuning。

目前已微调好的一版模型权重可自行下载体验（Google Drive)

时间线 / Time line

• [2023-03-24] 完成在中文instruction数据上使用Lora对chatGLM-6B进行微调，发布了微调后的权重。

样例展示 / Some Examples

环境准备 / Preparing the Enviroment

conda env create -f env.yml -n bab
conda activate bab
pip install git+https://github.com/huggingface/peft.git

数据处理 / Processing the Data

Run bash dataprocess.sh to process the data.

模型微调 / Finetune Your Model

Run bash finetune.sh to finetune the model.

模型推理 / Inference with Your Model

Run python infer.py to do the inference. Show cases in the dataset by default.

You can also choose to interact with the model through the annotation section.