Awesome
中文人名语料库(Chinese-Names-Corpus)
<strong>关于萌名(NameMoe)</strong>
萌名是一个基于大数据和自然语言处理技术的新取名产品。
通过分词工具对海量文本进行分词和词频统计。数据清洗后,得到千万级的人名词典。再对其进行性别、年龄、拼音、情感、人名指数等标记,最终形成5600万+的中文人名图谱。
本子项目可用于中文分词、人名识别等场景。
PS1:维护此项目,除个人兴趣外,主要是在此过程中,可通过任务驱动来不断学习和实践NLP、KG以及AI等相关前沿技术。
PS2:正在找工作,求内部推荐~ 移动医疗/SaaS后台/人工智能方向的 高级产品经理一枚。
PS3:请勿提交涉政issue,谢谢。
PS4:如将本项目转存到国内的某平台,请设置成0积分下载,并保留GitHub链接。
<strong>中文常见人名(Chinese_Names_Corpus)</strong>
数据大小:120万。
语料来源:从亿级人名语料中提取。
数据清洗:已清洗,但仍存有少量badcase。
<strong>新增人名生成器。</strong>
<strong>中文古代人名(Ancient_Names_Corpus)</strong>
数据大小:25万。
语料来源:多个人名词典汇总。
数据清洗:已清洗。
<strong>中文姓氏(Chinese_Family_Name)</strong>
数据大小:1千。
语料来源:从亿级人名语料中提取。
数据清洗:已清洗。
<strong>中文称呼(Chinese_Relationship)</strong>
数据大小:5千,称呼词根;18万,中文称呼。
语料来源:多个人名词典汇总。
数据清洗:已清洗,但仍存有大量badcase。
英文人名语料库(English-Names-Corpus)
<strong>翻译人名(English_Cn_Name_Corpus)</strong>
数据大小:48万。
语料来源:多个人名词典汇总。
数据清洗:已清洗,但仍存有少量badcase,以地名居多。
本语料的人名识别由网友 “ltccss” 友情提供。
日文人名语料库(Japanese_Names_Corpus)
<strong>日文人名(Japanese_Names_Corpus)</strong>
数据大小:18万。
数据来源:从维基百科中提取。
数据清洗:已清洗,但仍存有少量badcase。
数据清洗过程详见:“日本人名数据清洗分享”。
中文词典语料库(Chinese_Dict_Corpus)
<strong>成语词典(ChengYu_Corpus)</strong>
数据大小:5万。
语料来源:多个成语词典汇总。
数据清洗:已清洗。
Stargazers over time
<strong>更新时间:</strong>
更早的提交,不记得时间了。
删除了1000余非人名。 -2017.08.08
删除了5000余非人名。 -2017.11.25
新增了18万日文人名。 -2017.12.17
删除了1500余非人名(主要是日文地名)。 -2017.12.30
删除了约3万余非人名、或低频人名。 -2018.11.04
删除了2600余非人名、或低频人名。 -2019.04.15
删除了约1万余非人名、或低频人名。 -2019.07.27
将文件移动到文件夹。 -2019.10.21
新增人名生成器。 -2020.01.29
删除了约6万余非人名、或低频人名。 -2020.12.13
更新人名生成器。 -2021.11.22
删除了约700余非人名、或低频人名。 -2022.11.30
@萌名NameMoe 整理
2024.03.27