このモデルは2026年10月16日に Hugging Face Transformers に貢献されました。

ビーム

概要

Beamは、Reflection社初のオープンウェイトモデルです。これは、総パラメータ数501B、トークンあたりのアクティブパラメータ数23BのスパーズなMixture-of-Experts (MoE) 言語モデルであり、コーディング、推論、エージェント型ワークロード向けに構築されています。23.8Tトークンで事前学習が行われ、大規模な非同期強化学習によって事後学習されています。Beamはテキスト専用であり、すべての回答の前に推論を行います。チャットテンプレート内の推論努力設定により、その推論の度合いを制御できます。

Beamには52のデコーダー層があり、以下の機能を組み合わせています。

• ハイブリッドなスライディングアテンションとフルアテンション。6層ごとに1層と最終層ではフルアテンションを使用し、それ以外の層では直近のsliding_window(512)トークンにアテンションを適用します。layer_typesでパターンを設定します。
• スライディング層には RoPE、フル層には NoPE を適用します。 rope_parameters は層タイプをキーとしており、None は位置エンコーディングを持たない層タイプを示します。フルアテンション層ではクエリをスケーリングします（スケーラブル softmax）：1 始まりの位置 n のクエリは (1 + n / 2048) ** 0.1 を乗算し、コンテキストが拡大してもアテンションが平坦化しないようにします。
• ゲート付きアテンション。クエリヘッド48個、キー/バリューヘッド8個のグループドクエリアテンションを採用し、各クエリヘッドおよびキーヘッドにRMSNormを適用します。アテンション入力から計算されるシグモイドゲート（各ヘッドごとに学習されたバイアス付き）が、出力射影の前にアテンション出力を要素ごとにスケーリングします。
• Sparse MoE。最初の3層はdenseなSwiGLU MLPを使用し、残りの49層では各トークンを256のエキスパートのうち8つにルーティングします（共有エキスパートはありません）。mlp_layer_typesがこのパターンを設定します。ルーターはシグモイド関数でエキスパートをスコアリングし、補助損失ではなく学習されたエキスパートごとのバイアスで負荷をバランスさせ、各トークンをn_groupのエキスパートグループのうち最良のtopk_groupに限定します。ルーティング重みは正規化され、MoEの出力はrouted_scaling_factorでスケーリングされます。
• 深さスケーリング付き残差を用いたサンドイッチ型ノーム。 各アテンションブロックとMLPブロックは、前後にRMSNormでラップされます。残差の加算は再スケーリングされ、k 回の寄与（埋め込みを最初の1回として数える）の後、残差ストリームはそれらの和を sqrt(k) で割った値になります。
• 最終logitのsoftcapping。Logitsは30 * tanh(logits / 30)（final_logit_softcapping）によって上限が設定されます。

この実装では、Beam の学習およびサービング時に使用された数値特性と一致させるため、RMSNorm のスケーリング、SwiGLU アクティベーション、RoPE、クエリスケーリング、ルーティング、およびソフトキャッピングを FP32 で計算します。ルーターの重みとエキスパートのバイアスはロード時に FP32 で保持され、返される logits は常に FP32 です。

すべての元の Beam チェックポイントは、Reflection 組織の下で確認できます。

このモデルは、yonigozlan によって提供されました。

使用例

Beam のチャットテンプレートは、会話を Beam の Harmony 形式に整形し、そのレスポンステンプレートは生成されたテキストを、thinking、content、tool_calls フィールドを持つメッセージとして解析します。以下の例では、Pipeline または AutoModelForCausalLM クラスを使用して返信を生成します。

BF16のチェックポイントは約1 TBのため、例ではエキスパート並列を用いて8つのデバイスにシャードし、各デバイスにルーティングされたエキスパート全体を配置します。torchrun --nproc-per-node 8 <script.py>で起動します。

from transformers import DistributedConfig, pipeline

pipe = pipeline(
    task="text-generation",
    model="reflection/Beam-1.0-501B-A23B",
    model_kwargs={"distributed_config": DistributedConfig(tp_size=8, ep_size=8)},
)

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
output = pipe(messages, max_new_tokens=2048)
reply = output[0]["generated_text"][-1]
print(reply["thinking"])
print(reply["content"])

from transformers import AutoModelForCausalLM, AutoTokenizer, DistributedConfig

model_id = "reflection/Beam-1.0-501B-A23B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, distributed_config=DistributedConfig(tp_size=8, ep_size=8))

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True, reasoning_effort="low"
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0])
print(message["thinking"])
print(message["content"])

device_map="auto" は各デバイスにレイヤー全体を配置し、一度に1つのデバイスで実行するため、読み込み中にメモリ不足になる可能性があります。そのため、こちらを優先してください。

temperature=0.7 および top_p=0.99 を使用して生成サンプルを作成します。これらの値は、チェックポイントの GenerationConfig でデフォルトとして設定されています。do_sample=False を渡すと、グリーディデコーディングが実行されます。

推論の努力

reasoning_effort を apply_chat_template() に渡すことで、Beam がどれだけ推論を行うかを制御できます。整数の予算または以下のいずれかのラベルを受け取ります。Beam は 8 未満の effort で学習されていないため、より小さい値は反映されません。

reasoning_effortが設定されていない場合、テンプレートはmaxを使用します。推論中にmax_new_tokensが尽きると、解析されたメッセージにはthinkingが含まれますが、contentは含まれません。

マルチターン会話

解析済みのメッセージをそのまま履歴に追加します。Beam の出力は、以前の推論なしでは劣化します。この推論は、チャットテンプレートが thinking から読み取ります（reasoning_content および reasoning も受け入れられます）。デフォルトでは、推論を含まないアシスタントのターンは、空の推論ブロック付きでレンダリングされます。Beam をサービングする場合、add_generation_prompt=True の際に代わりにエラーを発生させるため、allow_missing_thinking=False を渡すことをお勧めします。

messages.append(message)
messages.append({"role": "user", "content": "And why are sunsets red?"})
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)

ツール呼び出し

tools を apply_chat_template() と parse_response() の両方に渡します。tools を指定すると、解析された引数は各ツールのスキーマで定義された型にキャストされます。指定しない場合、すべての引数は文字列になります。

def get_weather(city: str):
    """
    Get the current weather in a city.

    Args:
        city: The city name.
    """
    return "Sunny, 22 C"


messages = [{"role": "user", "content": "What's the weather like in Paris right now?"}]
inputs = tokenizer.apply_chat_template(
    messages, tools=[get_weather], add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0], tools=[get_weather])
print(message["tool_calls"])
# [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]

messages.append(message)
for call in message["tool_calls"]:
    result = get_weather(**call["function"]["arguments"])
    messages.append({"role": "tool", "name": call["function"]["name"], "content": result})

次に、messagesから再度生成して最終的な回答を取得します。解析されたツール呼び出しにはidがなく、フォーマットは位置に基づいて結果と呼び出しを対応付けます。そのため、ツール結果は呼び出しの順序で返してください。生成は、最終的な回答（<|return|>）またはツール呼び出し（<|call|>）の後に停止します。generation_config.jsonには両方がリストされています。

ストリーミングの場合、get_response_parser() は、生成されるテキストチャンクを feed() で渡すためのパーサーを返します。詳細は レスポンスの解析 を参照してください。

注記

• テンプレート引数。 reasoning_effort 以外にも、チャットテンプレートは model_identity（システムメッセージの最初の行を置き換えます）、builtin_tools、および allow_missing_thinking を受け入れます。 builtin_tools には、Beam の学習に使用された定義を持つ search と browse ツールのみを指定してください。その他のツールには tools のみが必要です。 system と developer メッセージは、会話の開始時のみレンダリングされます。
• 学習。チャットテンプレートは、apply_chat_template(..., return_dict=True, return_assistant_tokens_mask=True) によってアシスタントの出力をマークするため、TRL の SFTConfig(assistant_only_loss=True) を使用すると、アシスタントのトークンのみで学習が行われます。このマスクは、各アシスタントターンにおける推論、回答、およびツール呼び出しをカバーします。
• 補助損失はありません。ルーターはバイアスによってエキスパートの負荷をバランスさせるため、BeamForCausalLMは負荷分散損失を計算しません。output_router_logits=Trueを指定すると、ルーターのロジットが引き続き返されます。

BeamConfig

>>> from transformers import BeamConfig

>>> # Initializing a Beam configuration
>>> configuration = BeamConfig()

BeamModel

BeamForCausalLM