Awesome

日本語LLMまとめ

[ English | Français | 日本語 ]

この記事は、一般公開されている日本語LLM（日本語を中心に学習されたLLM）および日本語LLM評価ベンチマークに関する情報をまとめたものです。情報は、有志により収集されており、その一部は論文や公開されているリソースなどから引用しています。

::: warning 以下の点について、あらかじめご理解とご了承をお願いいたします

1. 本記事の内容は、完全性や正確性を保証するものではありません。これらの情報は予告なく変更されることがあり、また最新の情報を常に提供できるとは限りません。
2. 一部の情報は、推測や個々の利用者の解釈にもとづくものである場合があります。そのため、全ての読者にとって必ずしも正確であるとは限りません。
3. 本記事に記載されているモデルの多くは、MIT や Apache-2.0 といったオープンソースライセンスが適用されています。しかしながら、一部のモデルには、非営利限定のライセンス（例：CC BY-NC-SA 4.0）や開発元特有のライセンスが適応されており、これらは必ずしもオープンソースとは言えない可能性がある点にご注意ください。
4. 個人が開発したモデルに関する記述では、作成者の敬称は省略させていただいております。 :::

この記事の管理は GitHub で行っています。記事の間違いを発見した場合、あるいはモデルの追加提案を行いたい場合は、GitHub Issues 経由で報告していただけますと幸いです。

::: details 目次 [[toc]] :::

<a id="generative"></a>

テキスト生成に主に使うモデル

画像を含むテキスト生成モデルはこちら

<a id="full-scratch-models"></a>

フルスクラッチ学習モデル

<a id="generative-scratch-general"></a>

汎用

<a id="generative-scratch-domain-specific"></a>

ドメイン特化型

<a id="english-based-models"></a>

海外モデルに日本語で継続事前学習を行ったモデル

<a id="generative-continual-general"></a>

汎用

<a id="generative-continual-domain-specific"></a>

ドメイン特化型

<a id="instruction-only-models"></a>

海外モデルに日本語で事後学習のみ行ったモデル

<a id="generative-instruction-only-general"></a>

汎用

<a id="generative-instruction-only-domain-specific"></a>

ドメイン特化型

<a id="merged-models"></a>

複数のLLMをマージして作成されたモデル

<a id="api-based-models"></a>

APIとして提供されているモデル

<a id="autoencoding"></a>

入力テキストの処理に主に使うモデル

<a id="autoencoding-general"></a>

汎用

<a id="autoencoding-domain-specific"></a>

ドメイン特化型

<a id="embeddings"></a>

埋め込み (Embeddings) 作成に特化したモデル ¹⁹

Bi-Encoders

Single-representation bi-encoders

Multi-representation bi-encoders

Cross-Encoders

<a id="multimodal"></a>

視覚言語モデル (Vision-Language Models)

<a id="multimodal-text-generation"></a>

画像+テキストからのテキスト生成

フルスクラッチ学習モデル

汎用

ドメイン特化型

海外モデルに日本語で追加学習を行ったモデル

複数のVLM・LLMをマージして作成されたモデル

<a id="multimodal-text-to-image"></a>

テキストからの画像生成

<a id="multimodal-text-to-image-general"></a>

汎用

<a id="multimodal-text-to-image-domain-specific"></a>

ドメイン特化型

<a id="multimodal-others"></a>

その他

<a id="speech"></a>

音声言語モデル (Speech-Language Models)

<a id="speech-asr"></a>

音声認識

<a id="speech-others"></a>

その他

<a id="benchmark-suites"></a>

日本語LLM評価ベンチマーク/データセットまとめ

<a id="hybrid-benchmark-suites"></a>

複合型ベンチマーク

<a id="basic-benchmark-suites"></a>

基礎的な自然言語理解 (NLU) を中心に測定するベンチマーク/データセット

<a id="open-ended-benchmark-suites"></a>

人間らしい応答の生成能力を中心に測定するベンチマーク/データセット

<a id="domain-specific-benchmark-suites"></a>

特定ドメインの性能を測定するベンチマーク/データセット

<a id="factuality-safety-benchmark-suites"></a>

事実性・安全性を測定するベンチマーク/データセット

<a id="logical-reasoning-benchmark-suites"></a>

論理推論能力を測定するベンチマーク/データセット

<a id="controllabilitiy-benchmark-suites"></a>

制約付きの生成能力を測定するベンチマーク/データセット

<a id="embeddings-benchmark-suites"></a>

埋め込みモデルのベンチマーク/データセット

<a id="vl-benchmark-suites"></a>

視覚言語モデル (Vision-Language Models) のベンチマーク/データセット

<a id="reference"></a>

各モデル・アーキテクチャの原論文

<a id="reference-training"></a>

LLMの学習手法の原論文

<a id="contributors"></a>

コントリビューター

このプロジェクトに貢献してくれているコントリビューターのみなさんです！

<a id="citation"></a>

引用

このリポジトリの要約はプレプリントとしても公開されています: Exploring Open Large Language Models for the Japanese Language: A Practical Guide

このリポジトリについて言及する場合は、以下の通り引用してください:

@article{awesomeJapanese2024,
    title={{Exploring Open Large Language Models for the Japanese Language: A Practical Guide}},
    author={Kaito Sugimoto},
    doi={10.51094/jxiv.682},
    journal={Jxiv preprint},
    year={2024}
}