Transformers documentation
1月
はじめに
ベースクラス
モデル
プリプロセッサ
推論
トレーニング
ハードウェア
量子化
エコシステム統合
リソース
API
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v5.22.1).
1月
Jan はオープンソースの ChatGPT 代替ツールです。transformers serve を追加のトンネリングなしでネイティブにサポートしています。
設定 > モデルプロバイダーに移動します。
- Base URLをhttp://localhost:8000/v1に設定します。
- API Key に任意のテキストを入力してください(必須)。
Modelsセクションを確認してください(空の場合はRefreshをクリック)。Qwen/Qwen3-4Bなどの特定のモデルを追加するには+をクリックし、GGUFモデルの場合は<repo>:<file>.ggufを指定します。
