Awesome

awesome-chinese-nlp

A curated list of resources for NLP (Natural Language Processing) for Chinese

中文自然语言处理相关资料

图片来自复旦大学邱锡鹏教授

Contents 列表

1. Chinese NLP Toolkits 中文NLP工具

• Toolkits 综合NLP工具包

• Popular NLP Toolkits for English/Multi-Language 常用的英文或支持多语言的NLP工具包

• Chinese Word Segment 中文分词

• Information Extraction 信息提取

• QA & Chatbot 问答和聊天机器人

• Multi-Modal Representation & Retrieval 多模态表征与检索

2. Corpus 中文语料

3. Organizations 中文NLP学术组织及竞赛

4. Industry 中文NLP商业服务

5. Learning Materials 学习资料

Chinese NLP Toolkits 中文NLP工具

Toolkits 综合NLP工具包

• THULAC 中文词法分析工具包 by 清华 (C++/Java/Python)

• NLPIR by 中科院 (Java)

• LTP 语言技术平台 by 哈工大 (C++) pylyp LTP的python封装

• FudanNLP by 复旦 (Java)

• BaiduLac by 百度 Baidu's open-source lexical analysis tool for Chinese, including word segmentation, part-of-speech tagging & named entity recognition.

• HanLP (Java)

• FastNLP (Python) 一款轻量级的 NLP 处理套件。

• SnowNLP (Python) Python library for processing Chinese text

• YaYaNLP (Python) 纯python编写的中文自然语言处理包，取名于“牙牙学语”

• 小明NLP (Python) 轻量级中文自然语言处理工具

• DeepNLP (Python) Deep Learning NLP Pipeline implemented on Tensorflow with pretrained Chinese models.

• chinese_nlp (C++ & Python) Chinese Natural Language Processing tools and examples

• lightNLP (Python) 基于Pytorch和torchtext的自然语言处理深度学习框架

• Chinese-Annotator (Python) Annotator for Chinese Text Corpus 中文文本标注工具

• Poplar (Typescript) A web-based annotation tool for natural language processing (NLP)

• Jiagu (Python) Jiagu以BiLSTM等模型为基础，使用大规模语料训练而成。将提供中文分词、词性标注、命名实体识别、情感分析、知识图谱关系抽取、关键词抽取、文本摘要、新词发现等常用自然语言处理功能。

• SmoothNLP (Python & Java) 专注于可解释的NLP技术

• FoolNLTK (Python & Java) A Chinese Nature Language Toolkit

Popular NLP Toolkits for English/Multi-Language 常用的英文或支持多语言的NLP工具包

• CoreNLP by Stanford (Java) A Java suite of core NLP tools.

• Stanza by Stanford (Python) A Python NLP Library for Many Human Languages

• NLTK (Python) Natural Language Toolkit

• spaCy (Python) Industrial-Strength Natural Language Processing with a online course

• textacy (Python) NLP, before and after spaCy

• OpenNLP (Java) A machine learning based toolkit for the processing of natural language text.

• gensim (Python) Gensim is a Python library for topic modelling, document indexing and similarity retrieval with large corpora.

• Kashgari - Simple and powerful NLP framework, build your state-of-art model in 5 minutes for named entity recognition (NER), part-of-speech tagging (PoS) and text classification tasks. Includes BERT and word2vec embedding.

Chinese Word Segment 中文分词

• Jieba 结巴中文分词 (Python及大量其它编程语言衍生) 做最好的 Python 中文分词组件

• 北大中文分词工具 (Python) 高准确度中文分词工具，简单易用，跟现有开源工具相比大幅提高了分词的准确率。

• kcws 深度学习中文分词 (Python) BiLSTM+CRF与IDCNN+CRF

• ID-CNN-CWS (Python) Iterated Dilated Convolutions for Chinese Word Segmentation

• Genius 中文分词 (Python) Genius是一个开源的python中文分词组件，采用 CRF(Conditional Random Field)条件随机场算法。

• loso 中文分词 (Python)

• yaha "哑哈"中文分词 (Python)

• ChineseWordSegmentation (Python) Chinese word segmentation algorithm without corpus（无需语料库的中文分词）

• Go语言高性能分词 (Go) Go efficient text segmentation; support english, chinese, japanese and other.

• Ansj中文分词 (java) 基于n-Gram+CRF+HMM的中文分词的java实现

Information Extraction 信息提取

• MITIE (C++) library and tools for information extraction

• Duckling (Haskell) Language, engine, and tooling for expressing, testing, and evaluating composable language rules on input strings.

• IEPY (Python) IEPY is an open source tool for Information Extraction focused on Relation Extraction.

• Snorkel A training data creation and management system focused on information extraction

• Neural Relation Extraction implemented with LSTM in TensorFlow

• A neural network model for Chinese named entity recognition

• bert-chinese-ner 使用预训练语言模型BERT做中文NER

• Information-Extraction-Chinese Chinese Named Entity Recognition with IDCNN/biLSTM+CRF, and Relation Extraction with biGRU+2ATT 中文实体识别与关系提取

• Familia 百度出品的 A Toolkit for Industrial Topic Modeling

• Text Classification All kinds of text classificaiton models and more with deep learning. 用知乎问答语聊作为测试数据。

• ComplexEventExtraction 中文复合事件的概念与显式模式，包括条件事件、因果事件、顺承事件、反转事件等事件抽取，并形成事理图谱。

• TextRank4ZH 从中文文本中自动提取关键词和摘要

QA & Chatbot 问答和聊天机器人

• Rasa NLU (Python) turn natural language into structured data, a Chinese fork at Rasa NLU Chi

• Rasa Core (Python) machine learning based dialogue engine for conversational software

• Chatstack A Full Pipeline UI for building Chinese NLU System

• Snips NLU (Python) Snips NLU is a Python library that allows to parse sentences written in natural language and extracts structured information.

• DeepPavlov (Python) An open source library for building end-to-end dialog systems and training chatbots.

• ChatScript Natural Language tool/dialog manager, a rule-based chatbot engine.

• Chatterbot (Python) ChatterBot is a machine learning, conversational dialog engine for creating chat bots.

• Chatbot (Python) 基於向量匹配的情境式聊天機器人

• Tipask (PHP) 一款开放源码的PHP问答系统，基于Laravel框架开发，容易扩展，具有强大的负载能力和稳定性。

• QuestionAnsweringSystem (Java) 一个Java实现的人机问答系统，能够自动分析问题并给出候选答案。

• QA-Snake (Python) 基于多搜索引擎和深度学习技术的自动问答

• 使用TensorFlow实现的Sequence to Sequence的聊天机器人模型 (Python)

• 使用深度学习算法实现的中文阅读理解问答系统 (Python)

• AnyQ by Baidu 主要包含面向FAQ集合的问答系统框架、文本语义匹配工具SimNet。

• DuReader中文阅读理解Baseline代码 (Python)

• 基于SmartQQ的自动机器人框架 (Python)

• QASystemOnMedicalKG (Python) 以疾病为中心的一定规模医药领域知识图谱，并以该知识图谱完成自动问答与分析服务。

• GPT2-chitchat (Python) 用于中文闲聊的GPT2模型

• CDial-GPT (Python) 提供了一个大规模中文对话数据集，并提供了在此数据集上的中文对话预训练模型（中文GPT模型）

Multi-Modal Representation & Retrieval 多模态表征与检索

• Chinese-CLIP (Python) Chinese-CLIP是中文多模态图文表征预训练模型。其基于OpenAI的CLIP模型结构，利用大规模中文原生图文语料完成预训练，目前开源了多个模型规模，同时公开了技术报告论文及检索demo

Corpus 中文语料

• 开放知识图谱OpenKG.cn

• 开放中文知识图谱的schema

• 大规模中文概念图谱CN-Probase 公众号介绍

• 大规模1.4亿中文知识图谱开源下载

• 农业知识图谱 农业领域的信息检索，命名实体识别，关系抽取，分类树构建，数据挖掘

• CLDC中文语言资源联盟

• 中文 Wikipedia Dump

• 基于不同语料、不同模型（比如BERT、GPT）的中文预训练模型 中文预训练模型框架，支持不同语料、编码器、目标任务的预训练模型（from RUC and Tencent）

• OpenCLaP 多领域开源中文预训练语言模型仓库 (from Tsinghua)

• 98年人民日报词性标注库@百度盘

• 搜狗20061127新闻语料(包含分类)@百度盘

• UDChinese (for training spaCy POS)

• 中文word2vec模型

• 上百种预训练中文词向量

• Tencent AI Lab Embedding Corpus for Chinese Words and Phrases

• 中文预训练BERT with Whole Word Masking

• 中文GPT2训练代码 可以写诗，新闻，小说，或是训练通用语言模型。

• 中文语言理解测评基准ChineseGLUE 包括代表性的数据集、基准(预训练)模型、语料库、排行榜。

• 中华新华字典数据库 包括歇后语，成语，词语，汉字。

• Synonyms:中文近义词工具包 基于维基百科中文和word2vec训练的近义词库，封装为python包文件。

• Chinese_conversation_sentiment A Chinese sentiment dataset may be useful for sentiment analysis.

• 中文突发事件语料库 Chinese Emergency Corpus

• dgk_lost_conv 中文对白语料 chinese conversation corpus

• 用于训练中英文对话系统的语料库 Datasets for Training Chatbot System

• 八卦版問答中文語料

• 中文公开聊天语料库

• 中国股市公告信息爬取 通过python脚本从巨潮网络的服务器获取中国股市（sz,sh）的公告(上市公司和监管机构)

• tushare财经数据接口 TuShare是一个免费、开源的python财经数据接口包。

• 金融文本数据集 SmoothNLP 金融文本数据集(公开) Public Financial Datasets for NLP Researches

• 保险行业语料库 [52nlp介绍Blog] OpenData in insurance area for Machine Learning Tasks

• 最全中华古诗词数据库 唐宋两朝近一万四千古诗人, 接近5.5万首唐诗加26万宋诗. 两宋时期1564位词人，21050首词。

• DuReader中文阅读理解数据

• 中文语料小数据 包含了中文命名实体识别、中文关系识别、中文阅读理解等一些小量数据

• Chinese-Literature-NER-RE-Dataset A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text

• ChineseTextualInference 中文文本推断项目,包括88万文本蕴含中文文本蕴含数据集的翻译与构建,基于深度学习的文本蕴含判定模型构建.

• 大规模中文自然语言处理语料 维基百科(wiki2019zh),新闻语料(news2016zh),百科问答(baike2018qa)

• 中文人名语料库 中文姓名,姓氏,名字,称呼,日本人名,翻译人名,英文人名。

• 公司名、机构名语料库 公司简称,缩写,品牌词,企业名。

• 中文敏感词词库 敏感词过滤的几种实现+某1w词敏感词库

• 中文简称词库 A corpus of Chinese abbreviation, including negative full forms.

• 中文数据预处理材料 中文分词词典和中文停用词

• 漢語拆字字典

• SentiBridge: 中文实体情感知识库 刻画人们如何描述某个实体，包含新闻、旅游、餐饮，共计30万对。

• OpenCorpus A collection of freely available (Chinese) corpora.

• ChineseNlpCorpus 情感/观点/评论 倾向性分析，中文命名实体识别，推荐系统

• FinancialDatasets SmoothNLP 金融文本数据集(公开) Public Financial Datasets for NLP Researches Only

• People's Daily & Children's Fairy Tale PD&CFT: A Chinese Reading Comprehension Dataset

• 中文维基23万高质量词条-更新至23年7月-已过滤敏感或争议性信息

  <br />

Organizations 中文NLP学术组织及竞赛

• 清华大学自然语言处理与人文计算实验室

• 北京大学计算语言学教育部重点实验室

• 中科院计算所自然语言处理研究组

• 哈工大智能技术与自然语言处理实验室

• 哈工大社会计算与信息检索研究中心

• 复旦大学自然语言处理组

• 苏州大学自然语言处理组

• 南京大学自然语言处理研究组

• 东北大学自然语言处理实验室

• 厦门大学智能科学与技术系自然语言处理实验室

• 郑州大学自然语言处理实验室

• 微软亚洲研究院自然语言处理

• 华为诺亚方舟实验室

• CUHK Text Mining Group

• PolyU Social Media Mining Group

• HKUST Human Language Technology Center

• National Taiwan University NLP Lab

• 中国中文信息学会

• NLP Conference Calender Main conferences, journals, workshops and shared tasks in NLP community.

• 2017 第一届“讯飞杯”中文机器阅读理解评测

• 2017 AI-Challenger 图像中文描述 用一句话描述给定图像中的主要信息，挑战中文语境下的图像理解问题。

• 2017 AI-Challenger 英中机器文本翻译 用大规模的数据，提升英中文本机器翻译模型的能力。

• 2017 知乎看山杯机器学习挑战赛 根据知乎给出的问题及话题标签的绑定关系的训练数据，训练出对未标注数据自动标注的模型。

• 2018 开放领域的中文问答任务 对于给定的一句中文问题，问答系统从给定知识库中选择若干实体或属性值作为该问题的答案。

• 2018 微众银行智能客服问句匹配大赛 针对中文的真实客服语料，进行问句意图匹配；给定两个语句，判定两者意图是否相近。

Industry 中文NLP商业服务

• 华为云NLP 针对各类企业及开发者提供的用于文本分析及挖掘的云服务，旨在帮助用户高效的处理文本

• 百度云NLP 提供业界领先的自然语言处理技术，提供优质文本处理及理解技术

• 阿里云NLP 为各类企业及开发者提供的用于文本分析及挖掘的核心工具

• 腾讯云NLP 基于并行计算、分布式爬虫系统，结合独特的语义分析技术，一站满足NLP、转码、抽取、数据抓取等需求

• 讯飞开放平台 以语音交互为核心的人工智能开放平台

• 搜狗实验室 分词和词性标注

• 玻森数据 上海玻森数据科技有限公司，专注中文语义分析技术

• 云孚科技 NLP工具包、知识图谱、文本挖掘、对话系统、舆情分析等

• 智言科技 专注于深度学习和知识图谱技术突破的人工智能公司

• 追一科技 主攻深度学习和自然语言处理

Learning Materials 学习资料

• 中文Deep Learning Book

• Stanford CS224n Natural Language Processing with Deep Learning 2017

• Oxford CS DeepNLP 2017

• [Course materials for Georgia Tech CS 4650 and 7650, "Natural Language"] (https://github.com/jacobeisenstein/gt-nlp-class)

• Speech and Language Processing by Dan Jurafsky and James H. Martin

• 52nlp 我爱自然语言处理

• hankcs 码农场

• 文本处理实践课资料 文本处理实践课资料，包含文本特征提取（TF-IDF），文本分类，文本聚类，word2vec训练词向量及同义词词林中文词语相似度计算、文档自动摘要，信息抽取，情感分析与观点挖掘等实验。

• nlp_tasks Natural Language Processing Tasks and Selected References

• NLP研究入门之道 from清华刘知远老师

• Chinese NLP Shared tasks, datasets and state-of-the-art results for Chinese Natural Language Processing