Awesome
Awesome Open-domain Dialogue Models
受益于人工智能的技术突破和产品落地,对话系统在⼯业界的应⽤呈爆炸式增⻓,本仓库主要收集目前网上公开的一些高质量开放域对话模型(感谢分享资源的个人、团队以及企业),并将持续更新......
注: :sweat_smile: huggingface模型下载地址: 1. huggingface官方地址
Expand Table of Contents
中文开放域对话数据集
- LCCC | 文本 |2020 | LCCC数据集分为base和large两个版本,主要用于预训练大规模对话生成模型,其base版本包括了12M个对话,32.9M个对话语句 |
PDF
|数据链接
- PchatbotW | 文本 | 2021 | PchatbotW主要从微博爬取得到,包括了139,448,339个对话、 278,896,678,并且提供了时间戳和用户ID两种个性信息,可以隐式地建模说话者的个性 |
PDF
|数据集链接
(https://github.com/qhjqhj00/Pchatbot) - WDC-Dialogue | 文本 | 2021 | WDC是一个超大规模的中文对话数据集,其平均轮次为2.1,包括了1.4B个对话,以及3.0B个语句 |
PDF
|数据集链接
- M3ED | 多模态 | 2022 | M3ED构建了一个大规模高质量的多模态、多场景、多标签情感对话数据集,从56部中文电视剧,大约500集中选取900多个对话片段,并对对话中的每句话进行多情感标签的标注,共标注24,449句话 |
PDF
|数据链接
- CPED | 多模态 | 2022 | CPED由与情感和个性相关的多源知识组成,包括性别、人格特征、13种情绪、19种对话行为和10个场景,包含超过12K段对话 |
PDF
|数据链接
- C3KG | 文本 | 2022 |C3KG是第一个结合了社会常识知识和对话流信息的中文常识对话知识图谱 |
PDF
|数据链接
- MMChat | 多模态 | 2022 | MMChat是一个大规模多模态多轮对话数据集,其中的每个对话都与一个或多个图片相关联 |
PDF
|数据集链接
- 千言中文对话数据集 | 文本 | 千言中文对话数据集包括DeLeMon、Diamante、LUGE-Dialogue、DuConv、DuRecDial、KdConv、PersonaDialog等,内容涵盖闲聊对话、情感对话、画像对话、知识对话、推荐对话等多个方面 |
PDF
|数据集链接
中文对话模型
CDial-GPT系列
模型 | 版本 | PyTorch | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|
CDial-GPTLCCC-base | base | huggingface | thu-coai | CDial-GPT | 中文对话 |
CDial-GPT2LCCC-base | base | huggingface | thu-coai | CDial-GPT | 中文对话 |
CDial-GPTLCCC-large | large | huggingface | thu-coai | CDial-GPT | 中文对话 |
GPT2-dialogue | base | <p>Google Drive</br>百度网盘-osi6</p> | yangjianxin1 | GPT2-chitchat | 闲聊对话 |
GPT2-mmi | base | <p>Google Drive</br>百度网盘-1j88</p> | yangjianxin1 | GPT2-chitchat | 闲聊对话 |
EVA系列
- 2021 | EVA: An Open-Domain Chinese Dialogue System with Large-Scale Generative Pre-Training | Hao Zhou, et al. | arXiv |
PDF
- 2022 | EVA2.0: Investigating Open-Domain Chinese Dialogue Systems with Large-Scale Pre-Training | Yuxian Gu, et al. | arXiv |
[PDF]
(https://arxiv.org/pdf/2203.09313.pdf)
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
EVA | 28亿参数 | 项目首页 | 模型下载 | thu-coai | github | 中文开放域对话 |
EVA2.0-xLarge | xlarge | 项目首页 | huggingface | thu-coai | github | 中文开放域对话 |
EVA2.0-large | large | 项目首页 | huggingface | thu-coai | github | 中文开放域对话 |
EVA2.0-base | base | 项目首页 | huggingface | thu-coai | github | 中文开放域对话 |
PLATO系列
:thinking: 体验地址: 手机微信搜索百度PLATO即可体验
-
2020 | PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable | Siqi Bao, et al. | arxiv |
PDF
-
2021 | PLATO-2: Towards Building an Open-Domain Chatbot via Curriculum Learning | Siqi Bao, et al. | arxiv |
PDF
-
2021 | PLATO-XL: Exploring the Large-scale Pre-training of Dialogue Generation | Siqi Bao, et al. | arxiv |
PDF
-
2022 | PLATO-KAG: Unsupervised Knowledge-Grounded Conversation via Joint Modeling | Xinxian Huang, et al. | aclanthology |
PDF
-
2022 | Long Time No See! Open-Domain Conversation with Long-Term Persona Memory | Xinchao Xu, et al. | arxiv |
PDF
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
PLATO | base | 项目地址 | PaddlePaddle | github | 中文开放域对话 | |
PLATO-2 | 93M | 项目地址 | PaddlePaddle | github | 中文开放域对话 | |
PLATO-2 | 314M | 项目地址 | PaddlePaddle | github | 中文开放域对话 | |
PLATO-2 | 1.6B | 项目地址 | PaddlePaddle | github | 中文开放域对话 | |
PLATO-XL | 11B | 项目地址 | PaddlePaddle | github | 中文开放域对话 | |
PLATO-KAG | 1.6B | 项目地址 | PaddlePaddle | github | 中文知识型对话 | |
PLATO-LTM | 1.6B | 项目地址 | PaddlePaddle | github | 中文开放域对话 |
PanGu系列
- 2022 | PANGU-BOT: Efficient Generative Dialogue Pre-training from Pre-trained Language Model | Fei Mi, et al | arxiv |
PDF
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
PanGu-bot | 350M | 项目首页 | huawei-noah | github | 中文开放域对话 | |
PanGu-bot | 2.6B | 项目首页 | huawei-noah | github | 中文开放域对话 |
OPD
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
OPD | 6.3B | 项目首页 | 模型下载 | thu-coai | github | 中文开放域对话 |
英文对话模型
Blender系列
:thinking:体验地址(目前仅支持US用户): BlenderBot
-
2021 | BlenderBot 2.0: An open source chatbot that builds long-term memory and searches the internet | Moya Chen, et al. | parl.ai |
PDF
-
2022 | BlenderBot 3: a deployed conversational agent that continually learns to responsibly engage | Kurt Shuster | arxiv |
PDF
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
BlenderBot 2.0 | 400M | 项目地址 | 模型下载 | ParIAI | blenderbot2 | 英文开放域对话 |
BlenderBot 2.0 | 2.7B | 项目地址 | 模型下载 | ParIAI | blenderbot2 | 英文开放域对话 |
BlenderBot 3.0 | 3B | 项目地址 | 模型下载 | ParIAI | blenderbot3 | 英文开放域对话 |
BlenderBot 3.0 | 30B | 项目地址 | 模型下载 | ParIAI | blenderbot3 | 英文开放域对话 |
BlenderBot 3.0 | 175B | 项目地址 | 模型下载 | ParIAI | blenderbot3 | 英文开放域对话 |
LaMDA
:thinking:体验地址(支持中英等多种语言): Character.AI
- 2022 | LaMDA: Language Models for Dialog Applications | Romal Thoppilan, et al. | arxiv |
PDF
模型 | 版本 | 介绍 | 模型下载 | 作者 | 源地址 | 应用领域 |
---|---|---|---|---|---|---|
LaMDA | 2B | 项目地址 | 英文开放域对话 | |||
LaMDA | 8B | 项目地址 | 英文开放域对话 | |||
LaMDA | 137B | 项目地址 | 英文开放域对话 |
Reference
[1] 常见对话生成数据集整理 [2] Awesome Pretrained Chinese NLP Models [3] 千言中文对话
更新
- 2022.11.17 增加PLATO-XL、LaMDA和Blender体验地址
- 2022.11.09 增加OPD
- 2022.11.04 增加LaMDA
- 2022.10.25 增加Blender系列模型
- 2022.10.15 增加PanGu系列模型
- 2022.09.30 增加PLATO系列模型
- 2022.09.25 增加EVA系列模型
- 2022.09.17 初始化中文CDial-GPT系列模型
- 2022.08.17 增加中文开放域对话数据集