LLM・生成AI
継続事前学習とは?
読み: けいぞくじぜんがくしゅう英語: Continued Pre-training更新日: 2026-09-11
継続事前学習とは、既存モデルの事前学習を、領域に応じたコーパスなどで継続し、データの特性へ適応させる方法です。
AWS AI PractitionerG検定
別名・表記: 継続事前学習 / Continued Pre-training
試験で問われるポイント
- 正解回答の例を与える調整とは区別し、元の事前学習目的で学習を続けます。
- 一時的な最新情報参照だけならRAGが適する場合があります。
- 新しい課題を順次学ぶ継続学習とは区別し、必要なデータ量や計算費用を考えます。
具体例
医療や法律など専門領域の大量テキストでモデル知識を補強する場合に検討されます。
混同しやすい点
- RAGと同じ仕組みだと考える。
- 少量のFAQだけで行う軽い設定変更だと考える。