「大規模言語モデル入門」 読書メモ一覧 - jiku log

jiku log

JTCのデータサイエンス中間管理職の学び

「大規模言語モデル入門」 読書メモ一覧

はじめに

製造業においても,自然言語処理は重要な技術テーマのひとつである。週報などのメール,社内規定などのルール,安全記録や検査記録など,日々多くの文章が業務上で現れる。これらのテキストデータに対して自然言語処理技術を適用して業務効率化を実現していくために,近年発展が目覚ましい大規模言語モデルについて学ぶことにした。

なお私の勤務先では,既に大規模言語モデルの業務適用が進んでいる状況だが,新しい技術検証も並行して進めている。これらの技術に関する評価を適切に行なうためにも,大規模言語モデルの理解は重要である。

このたび,大規模言語モデルの入門書として,山田 育矢 著「大規模言語モデル入門」を読むこととした。

gihyo.jp

記事一覧

第1章 はじめに

stern-bow.hatenablog.com

第2章 Transformer

stern-bow.hatenablog.com

第3章 大規模言語モデルの基礎

stern-bow.hatenablog.com

第4章 大規模言語モデルの進展

stern-bow.hatenablog.com

第5章 大規模言語モデルのファインチューニング

stern-bow.hatenablog.com

第6章 固有表現認識

stern-bow.hatenablog.com

第7章 要約生成

stern-bow.hatenablog.com

第8章 文埋め込み

stern-bow.hatenablog.com

第9章 質問応答

stern-bow.hatenablog.com