モデル・開発

EVIE:高精度で軽量な視覚文書検索モデル

原題: EVIE: The Most Accurate and Lightweight Visual Document Retriever

重要オープンウェイトApache 2.0

4.5Bと8Bの正式ウェイトを公開

Tencentは9月7日、視覚文書検索モデルEVIEの正式版を公開しました。

EVIE-4.5Bと、教師モデルとして使うEVIE-8Bのウェイトを取得できます。

Apache License 2.0で、推論パイプラインと評価資源も公開されています。

4.5B版には学習パイプライン、トークン圧縮アルゴリズム、蒸留手法の実装も含まれます。

文書ページを単一ベクトルへ圧縮せず、視覚トークンごとの表現を使って関連度を計算します。

表、レイアウト、グラフ、小さな文字を含む文書検索を対象にしています。

4.5B版は1つの射影ヘッドを64次元から2048次元まで切り詰めて利用できます。

トークン圧縮により、検索精度と保存容量の条件を調整できます。

Sentence TransformersのMultiVectorEncoderから利用する統合も追加されました。

8B版は4096次元の表現を使い、4.5B版の蒸留用教師モデルとしても提供されます。

TencentはViDoRe V3で8B版が66.75、4.5B版が66.02と説明しています。

順位とベンチマーク値はTencentによる評価で、独立評価ではありません。

原文

← 日次まとめへ戻る