モデル・国内注目
LLM-jp-4-VL 9Bリリース
日本語視覚言語モデルと学習データを公開。
約9Bの日本語視覚言語モデル
LLM-jpは9月1日、視覚言語モデルLLM-jp-4-VL 9Bを公開しました。
約86億パラメータのllm-jp-4-8b-thinkingを基盤に、約4億パラメータの視覚エンコーダーを組み合わせた約9Bモデルです。
モデルウェイトはHugging Faceで公開され、Transformersから利用できます。
ライセンスはApache 2.0で、日本語と英語に対応します。
4月公開のベータ版から、基盤LLMをthinking版へ変更しました。
英語学習データFineVisionは、ライセンス、利用規約、品質を再確認したRefinedVisionへ置き換えました。
RefinedVisionは185サブセットを精査し、61を除外、58を再生成、66をそのまま採用しています。
日本語データJagleなどを合わせ、約2,930万事例で学習しました。
モデルと同時にRefinedVisionデータセット、評価ツールsimple-evals-mm v0.3.0も公開しています。
評価ではベータ版よりテキスト課題と高難度の図表理解が改善しました。
一方、Qwen3.5-9Bとの比較では多くの課題に性能差が残ると、LLM-jp自身が報告しています。