通常ニュース
Amazon Novaによる教師ありファインチューニング向け自己蒸留推論の検証
原題: Exploring self-distilled reasoning for supervised fine-tuning with Amazon Nova
検証の要点
AWSは、推論過程を含まないデータセットで教師ありファインチューニングを行う際のSelf-Distilled Reasoning（SDR）を検証しました。
SDRでは、基礎モデル自身に推論過程を生成させ、元の回答へ追加して学習データを作ります。
別の教師モデルや人手による推論過程の注釈を必要としない点が特徴です。
Amazon Nova 2 Liteを使い、MedMCQA、CoCoHD、Invoice-OCRなどで評価しました。
AWSは、通常のSFTでは数学性能が平均70%から6%へ低下した一方、SDRでほぼ回復したと報告しています。
結果と条件
モデルマージと比べ、数学性能は約68%を維持しながら対象性能が平均6.5%以上向上したとしています。
学習時と推論時で同じ推論モードを維持することが重要だと説明しています。
推論過程は、基礎モデルから自然に生成する方法と、正解を示して逆向きに構成する方法を紹介しています。
正解を推論文へ漏らさないため、二次フィルタリングを行います。
結果はAWSによる特定モデル・データセット上の検証であり、他モデルや業務データでは個別評価が必要です。