Home

Awesome

PULSE

<p align="center" width="100%"> <img src="pics/PULSE.png" alt="MOSS" style="width: 60%; min-width: 300px; display: block; margin: 30px;"> </p>

Code License Model License Open in OpenXLab

[中文版] [English]

目录


模型

主要功能

下载地址

局限性

Elo评测

Model NameAVG RankMedQA-USMLEMedQA-MainlandPromptCBLUEWebMedQACheckupQAMedicineQADialogSummMedTriage (F1)
GPT-41.2511291117111011161096109811090.65
PULSE-Pro1.7510891092108811191105108310960.63
ChatGPT4.0010861057106410531020102910800.43
PULSE-20b4.1210421024103910591049106910760.40
Baichuan24.5010241041106510441062103510690.33
ChatGLM35.621038106299710121003102410210.06
HuatuoGPT27.6295599398596398310039800.01
QiZhenGPT8.3895595994598910399329210.00
BenTsao8.759619219369109279869200.02
BianQue210.129139289199889749009080.00
MING10.759029099248678629609180.01
DoctorGLM11.129068969308798808809050.00

评估方法

评估数据集

公开数据集 [eval/data]

私有数据集

评测模型

超参选择

开源仓库

微调

基于LLaMA-Factory 项目,我们提供了可以快速微调PULSE的代码PULSE-tuner

量化

推理

硬件要求

下表提供了一个batch size=1时本地部署PULSE进行推理所需的显存大小。

模型参数量化等级加载模型
7BFP1614GB
7BINT46GB
20BFP1640GB
20BINT412GB

下载安装

  1. 下载本仓库内容至本地/远程服务器
git clone https://github.com/openmedlab/PULSE
cd PULSE
  1. 创建conda环境安装依赖
conda env create -f llm.yml
conda activate llm

其中torchtransformers版本不建议低于推荐版本。

使用示例

网页Demo

Gradio

python web_demo_gradio.py

命令行Demo

您可以运行仓库中的cli_demo.py来启动一个简单的命令行Demo:

python cli_demo.py

简单用例

健康科普

image

医师考题

image

报告解读

image

病历结构化

image

模拟诊疗

image

医学无关问题无害处理

image

友情链接

如果您有其他开源项目使用或改进PULSE,欢迎提交Pull Request添加到README或在Issues中联系我们。

XrayPULSE

一款将医疗大语言模型PULSE与X-ray图像模型结合的应用,实现了多模态会话功能。

openmedlab/XrayPULSE

image

PULSE-COVID-19

一个基于PULSE微调且结合了广州实验室内部COVID-19知识数据库语料库的模型。

openmedlab/PULSE-COVID-19

image

病历结构化

一个基于PULSE模型的结构化工具,旨在帮助用户处理和分析文本数据。它提供了单选、多选、信息提取等功能。

JuneYaooo/llm_structure_tool

image

术语归一化

一个基于PULSE模型的医疗术语归一化的应用,归一化的任务是将临床上同一种诊断、手术、药品、检查、症状等各种不同的说法对应到标准用词上。

JOHNNY-fans/NormPULSE

image

知识库问答

一款基于PULSE开发的聊天机器人,用户可以自己添加相关知识库,以开发更丰富的应用场景。

JuneYaooo/medical_kb_chatbot

image

致谢

引用

@article{pulse2023,
      title={PULSE: Pretrained and Unified Language Service Engine}, 
      author={Xiaofan Zhang, Kui Xue, Shaoting Zhang},
      year={2023},
      url={https://github.com/openmedlab/PULSE}
}

开源协议

本项目所含代码采用Apache 2.0协议,模型权重采用GNU AGPL 3.0协议。

<!-- ## Star History [![Star History Chart](https://api.star-history.com/svg?repos=openmedlab/PULSE&type=Date)](https://star-history.com/#openmedlab/PULSE&Date) -->