モデル・開発
EVIE:高精度で軽量な視覚文書検索モデル
原題: EVIE: The Most Accurate and Lightweight Visual Document Retriever
4.5Bと8Bの正式ウェイトを公開
Tencentは9月7日、視覚文書検索モデルEVIEの正式版を公開しました。
EVIE-4.5Bと、教師モデルとして使うEVIE-8Bのウェイトを取得できます。
Apache License 2.0で、推論パイプラインと評価資源も公開されています。
4.5B版には学習パイプライン、トークン圧縮アルゴリズム、蒸留手法の実装も含まれます。
文書ページを単一ベクトルへ圧縮せず、視覚トークンごとの表現を使って関連度を計算します。
表、レイアウト、グラフ、小さな文字を含む文書検索を対象にしています。
4.5B版は1つの射影ヘッドを64次元から2048次元まで切り詰めて利用できます。
トークン圧縮により、検索精度と保存容量の条件を調整できます。
Sentence TransformersのMultiVectorEncoderから利用する統合も追加されました。
8B版は4096次元の表現を使い、4.5B版の蒸留用教師モデルとしても提供されます。
TencentはViDoRe V3で8B版が66.75、4.5B版が66.02と説明しています。
順位とベンチマーク値はTencentによる評価で、独立評価ではありません。