Awesome

IvyGPT 💊 产生最贴近真实医生问诊效果的医疗大语言模型

近期在通用领域中出现的大语言模型（LLMs），例如ChatGPT，在遵循指令和产生类人响应方面表现出了显著的成功。然而，这样的大型语言模型并没有被广泛应用于医学领域，导致响应的准确性较差，无法提供关于医学诊断、药物等合理的建议。为了应对这一挑战，我们提出了IvyGPT，这是一个医疗大语言模型，它在高质量的医学问答数据上进行了监督微调，并使用人类反馈的强化学习进行了训练。该项目的特性包括：

🍦支持在医疗问答LLM上全流程训练：监督训练、奖励模型、强化学习 (RLHF)；
🏵️多微调方法支持：LoRA、QLoRA等；
🥄高效智能的数据集制作工具：奖励模型训练数据集生成工具-Rank Dataset Generator、监督训练数据集生成工具-Instruction Dataset Generator；
🧽超30万高质量医患对话数据集用于支持训练；

在这里我们不仅关注IvyGPT项目本身，我们还深入到开源社区中，持续的关注各位开发者关于医疗LLM的开发动态，我们对许多的工作表示惊叹。如：

英文医疗LLM领域：ChatDoctor、PMC-LLaMA、medAlpaca；
中文医疗LLM领域：ChatMed、Med-ChatGLM、Huatuo-Llama-Med-Chinese、DoctorGLM、MedicalGPT-zh、QiZhenGPT、BianQue、MedicalGPT、LLM-Pretrain-FineTune；

关于常春藤：

常春藤是一种常见的攀援植物，其拉丁学名为Hedera helix。常春藤的叶子呈现出深绿色，具有闪亮的光泽，常被用作装饰植物。此外，常春藤在医学领域也有其应用，其叶子中含有一些活性成分，可以用于治疗一些疾病。例如，常春藤可以用于治疗呼吸道疾病、消化系统疾病、皮肤病等。此外，常春藤还具有镇静、镇痛、抗炎等作用，可以用于缓解焦虑、失眠、疼痛等症状。
常春藤是一种常绿的攀援植物，它的寓意在医学上也很美好。常春藤的攀爬和延伸象征着医学的不断发展和进步，它的常绿象征着医学的持久不变和永恒的价值。此外，常春藤还有着坚韧、适应力强等特点，这也是医学工作者所需要具备的品质。因此，常春藤在医学上被赋予了积极向上的寓意，它象征着医学工作者不断追求进步和创新的精神。
常春藤在医院患者身上也有着美好的寓意。常春藤的攀爬和延伸象征着患者的希望和努力，他们在疾病的折磨下仍然坚强地向前迈进，不断寻求治疗和康复的方法。常春藤的常绿象征着患者们的生命力和坚韧不拔，他们在面对疾病时不会轻易放弃，而是坚持不懈地与疾病作斗争。因此，常春藤在医院患者身上也被赋予了积极向上的寓意，它象征着患者们对生命的热爱和追求，以及对未来的信心和希望。

项目预览

主界面
说明界面
多轮对话
对话清除
网络检索

项目参与

这项工作由澳门理工大学应用科学学院硕士生王荣胜完成，指导老师为檀韬副教授。

免责声明

本项目相关资源仅供学术研究之用，严禁用于商业用途。使用涉及第三方代码的部分时，请严格遵循相应的开源协议。模型生成的内容受模型计算、随机性和量化精度损失等因素影响，本项目无法对其准确性作出保证。即使本项目模型输出符合医学事实，也不能被用作实际医学诊断的依据。对于模型输出的任何内容，本项目不承担任何法律责任，亦不对因使用相关资源和输出结果而可能产生的任何损失承担责任。

引用

如果您觉得此项目有帮助，请引用：

@inproceedings{wang2023ivygpt,
  title={Ivygpt: Interactive chinese pathway language model in medical domain},
  author={Wang, Rongsheng and Duan, Yaofei and Lam, ChanTong and Chen, Jiexin and Xu, Jiangsheng and Chen, Haoming and Liu, Xiaohong and Pang, Patrick Cheong-Iao and Tan, Tao},
  booktitle={CAAI International Conference on Artificial Intelligence},
  pages={378--382},
  year={2023},
  organization={Springer}
}