embed_descriptions.py

"""ローカルに保存済みの EmbeddingGemma (ONNX / quantized) を使い、

`test_data.csv` の description 列をベクトル化して pickle に保存するスクリプト。

本番運用を想定し、Hugging Face Hub には一切アクセスせず、
`models/embeddinggemma-300m-onnx/`（download_model.py で事前に保存したファイル）
のみを読み込んで推論を行う。

事前準備:
    1. `download_model.py` を一度だけ実行し、モデル一式をローカルに保存しておく。

実行方法:
    ".venv/Scripts/python.exe" embed_descriptions.py
"""

from __future__ import annotations

from pathlib import Path

import numpy as np
import onnxruntime as ort
import pandas as pd
from transformers import AutoTokenizer

# --- パス設定 -----------------------------------------------------------
BASE_DIR = Path(__file__).resolve().parent
MODEL_LOCAL_DIR = BASE_DIR / "models" / "embeddinggemma-300m-onnx"
ONNX_MODEL_PATH = MODEL_LOCAL_DIR / "onnx" / "model_quantized.onnx"

INPUT_CSV_PATH = BASE_DIR / "test_data.csv"
OUTPUT_PICKLE_PATH = BASE_DIR / "output" / "description_embeddings.pkl"

# --- EmbeddingGemma のプロンプト設定 --------------------------------------
# description は「検索対象となる商品説明文（ドキュメント）」として扱う。
# クエリ側の文章をベクトル化したい場合は QUERY_PREFIX を使う。
DOCUMENT_PREFIX = "title: none | text: "
QUERY_PREFIX = "task: search result | query: "

BATCH_SIZE = 16


def load_tokenizer_and_session(
    model_dir: Path = MODEL_LOCAL_DIR,
    onnx_path: Path = ONNX_MODEL_PATH,
) -> tuple[AutoTokenizer, ort.InferenceSession]:
    """ローカル保存済みのトークナイザと ONNX 推論セッションを読み込む。

    Args:
        model_dir: トークナイザ関連ファイルが保存されたローカルディレクトリ。
        onnx_path: 量子化済み ONNX モデルファイルのパス。

    Returns:
        (tokenizer, onnxruntime の InferenceSession) のタプル。

    Raises:
        FileNotFoundError: モデルファイルが見つからない場合
            （事前に download_model.py の実行が必要）。
    """
    if not onnx_path.exists():
        raise FileNotFoundError(
            f"ONNX モデルが見つかりません: {onnx_path}\n"
            "先に download_model.py を実行してモデルをダウンロードしてください。"
        )

    tokenizer = AutoTokenizer.from_pretrained(model_dir, local_files_only=True)
    session = ort.InferenceSession(str(onnx_path))
    return tokenizer, session


def load_descriptions(csv_path: Path = INPUT_CSV_PATH) -> pd.DataFrame:
    """CSV から hs_code と description を読み込み、欠損行を除外する。

    description 列が "nan"（文字列）になっている行は、pandas の既定の
    欠損値判定により NaN として読み込まれる。これらはベクトル化の対象外とし、
    件数を警告として表示する。

    Args:
        csv_path: 読み込む CSV ファイルのパス。

    Returns:
        hs_code, description の 2 列からなる DataFrame（欠損行は除外済み）。
    """
    df = pd.read_csv(csv_path, dtype={"hs_code": str})
    df["description"] = df["description"].astype("string").str.strip()

    missing_mask = df["description"].isna() | (df["description"] == "")
    n_missing = int(missing_mask.sum())
    if n_missing > 0:
        print(
            f"警告: description が欠損している行を {n_missing} 件スキップします "
            f"(hs_code: {df.loc[missing_mask, 'hs_code'].tolist()})"
        )

    return df.loc[~missing_mask].reset_index(drop=True)


def embed_texts(
    texts: list[str],
    tokenizer: AutoTokenizer,
    session: ort.InferenceSession,
    prefix: str = DOCUMENT_PREFIX,
    batch_size: int = BATCH_SIZE,
) -> np.ndarray:
    """テキストのリストを EmbeddingGemma でベクトル化する。

    Args:
        texts: ベクトル化したい文字列のリスト。
        tokenizer: 読み込み済みのトークナイザ。
        session: 読み込み済みの onnxruntime 推論セッション。
        prefix: EmbeddingGemma 推奨のタスク別プロンプト接頭辞。
        batch_size: 一度に推論するバッチサイズ。

    Returns:
        shape が (len(texts), 768) の埋め込みベクトル配列。
    """
    all_embeddings: list[np.ndarray] = []

    for start in range(0, len(texts), batch_size):
        batch_texts = [prefix + text for text in texts[start : start + batch_size]]
        inputs = tokenizer(batch_texts, padding=True, return_tensors="np")

        onnx_inputs = {
            "input_ids": inputs["input_ids"].astype(np.int64),
            "attention_mask": inputs["attention_mask"].astype(np.int64),
        }
        _, sentence_embedding = session.run(None, onnx_inputs)
        all_embeddings.append(sentence_embedding)

        print(f"  {min(start + batch_size, len(texts))}/{len(texts)} 件を処理しました")

    return np.concatenate(all_embeddings, axis=0)


def main() -> None:
    """CSV の description を埋め込みベクトル化し、pickle として保存する。"""
    print("トークナイザと ONNX モデルを読み込んでいます（ローカルファイルのみ使用）...")
    tokenizer, session = load_tokenizer_and_session()

    print(f"CSV を読み込んでいます: {INPUT_CSV_PATH}")
    df = load_descriptions()
    print(f"埋め込み対象: {len(df)} 件")

    print("description をベクトル化しています...")
    embeddings = embed_texts(df["description"].tolist(), tokenizer, session)
    df["embedding"] = list(embeddings)

    OUTPUT_PICKLE_PATH.parent.mkdir(parents=True, exist_ok=True)
    df.to_pickle(OUTPUT_PICKLE_PATH)

    print(f"完了: {OUTPUT_PICKLE_PATH} に {len(df)} 件のベクトルを保存しました")
    print(f"埋め込み次元数: {embeddings.shape[1]}")


if __name__ == "__main__":
    main()