Awesome
KoBERT-NER
- KoBERT를 이용한 한국어 Named Entity Recognition Task
- 🤗
Huggingface Tranformers
🤗 라이브러리를 이용하여 구현
Dependencies
- torch==1.4.0
- transformers==2.10.0
- seqeval>=0.0.12
Dataset
- Naver NLP Challenge 2018의 NER Dataset 사용 (Github link)
- 해당 데이터셋에 Train dataset만 존재하기에, Test dataset은 Train dataset에서 split하였습니다. (Data link)
- Train (81,000) / Test (9,000)
How to use KoBERT on Huggingface Transformers Library
- 기존의 KoBERT를 transformers 라이브러리에서 곧바로 사용할 수 있도록 맞췄습니다.
- transformers v2.2.2부터 개인이 만든 모델을 transformers를 통해 직접 업로드/다운로드하여 사용할 수 있습니다
- Tokenizer를 사용하려면
tokenization_kobert.py
에서 KoBertTokenizer
를 임포트해야 합니다.
from transformers import BertModel
from tokenization_kobert import KoBertTokenizer
model = BertModel.from_pretrained('monologg/kobert')
tokenizer = KoBertTokenizer.from_pretrained('monologg/kobert')
Usage
$ python3 main.py --model_type kobert --do_train --do_eval
--write_pred
옵션을 주면 evaluation의 prediction 결과가 preds
폴더에 저장됩니다.
Prediction
$ python3 predict.py --input_file {INPUT_FILE_PATH} --output_file {OUTPUT_FILE_PATH} --model_dir {SAVED_CKPT_PATH}
Results
| Slot F1 (%) |
---|
KoBERT | 86.11 |
DistilKoBERT | 84.13 |
Bert-Multilingual | 84.20 |
CNN-BiLSTM-CRF | 74.57 |
References