Fine-tuning
ファインチューニング
ファインチューニングとは、事前学習済みのLLMを特定のタスクやドメインに適応させるための追加学習プロセスです。ゼロから学習するよりも少ないデータと計算リソースで高い性能が得られるため、企業が自社データにLLMを適応させる際に広く採用されています。
全パラメータを更新するフルファインチューニングのほか、少数のパラメータのみ更新するLoRA・QLoRAなどの効率的な手法も普及しています。GPUのVRAM容量と計算コストがファインチューニングの規模を制約する主要因となります。




