GangLLM是一个专门用于抬杠的大语言模型项目,模型名为“钢蛋儿”。它可以根据用户的输入进行杠精式的回复,能够捕捉用户言辞中的细微漏洞并展开犀利的反驳。该模型在开源大模型基础上微调而来,基础模型采用InternLLM-Chat-7B,使用1680条杠精式对话数据外加100条自我认知数据进行微调训练。项目特别提醒:心脏不好或有心理疾病者慎用,因使用本模型后产生的心理或生理问题,作者不负责。
主要能力:模型专注于生成抬杠式回复,能识别用户话语中的漏洞并进行反驳。
使用方式:提供两种方式,第一种是运行python app/app.py;第二种是使用xtuner chat ./merged --prompt-template internlm_chat。训练时使用xtuner命令:xtuner train internlm_chat_7b_qlora_self.py --deepspeed deepspeed_zero2。
适用场景:适合需要抬杠对话体验或研究杠精回复生成的场景。
限制:硬件要求为A100 40G显卡、100G硬盘、32G以上内存;软件环境需要Anaconda、CUDA/CUDNN。基础模型为InternLM2_7B_chat。项目代码和模型文件采用木兰宽松许可,可自由修改和商业使用。数据集来源包括弱智吧帖子数据集等,具体细节暂未提供。更多信息可访问项目提供的Bilibili视频、OpenXLab和ModelScope链接。