تمت مساهمة هذا النموذج في Hugging Face Transformers في 2026-05-05.

مساعد Gemma 4

نظرة عامة

Gemma 4 Assistant هو نموذج صغير مخصص للنص فقط، يتيح الترميز التخميني لنماذج Gemma 4 باستخدام طريقة التنبؤ متعدد الرموز (MTP) ومولّد المرشحات المرتبط بها. تتوفر نماذج مُدرَّبة مسبقًا لتنويعات IT من نماذج Gemma 4 E2B وE4B و31B و26B-A4B (MoE).

من حيث البنية، يتشارك مساعد Gemma 4 نفس العمود الفقري Gemma4TextModel مع نماذج Gemma 4 الأخرى، لكنه يختلف في بعض الجوانب الرئيسية:

• يستخدم النموذج بأكمله مشاركة KV. تتيح هذه التقنية، التي عُرضت لأول مرة مع Gemma 3n، للنموذج إعادة استخدام ذاكرة KV المخزنة التي يملؤها النموذج المستهدف الذي يدعمه المساعد، مما يسمح للمساعد بتجاوز مرحلة التعبئة المسبقة بالكامل، ويقلل بشكل كبير من حساب الانتباه أثناء المرور الأمامي.
• قيمة position_ids ثابتة. نظرًا لأن ذاكرة KV مشتركة ولا يملك المساعد طريقة لتحديثها، يتنبأ المساعد بجميع الرموز من معرّف الموضع نفسه.
• المدخلات هي دمج التضمينات (embeddings) وحالات الإخفاء (hidden states). للتكيّف مع ذاكرة KV الثابتة وposition_ids، يستقبل النموذج مدخلاته على شكل دمج بين embedding وhidden_states لآخر رمز شوهد من النموذج المستهدف، ثم يرميها إلى فضاء نموذج المساعد عبر تحويل nn.Linear. يتغير تعريف آخر رمز شوهد على مدار حلقة فك التشفير المُساعَد. بالنسبة للرمز الأول المُسود بعد مرحلة التعبئة المسبقة (pre-fill)، يكون آخر رمز شوهد هو آخر رمز من الاستدعاء (prompt). أما في خطوات المسودة اللاحقة، فيكون آخر رمز شوهد هو آخر رمز ولّده المساعد (ضمن جولة مسودة) أو آخر رمز قبله النموذج المستهدف (بين جولات المسودة).
• يُستخدم الانتباه المتقاطع (Cross-attention) لاستغلال سياق النموذج المستهدف بأفضل شكل. يتيح الانتباه المتقاطع لحالات الاستعلام (query states) التي يولدها المساعد أن تنتبه إلى قيم ذاكرة KV المشتركة من النموذج المستهدف، مما يسمح للمساعد بالتنبؤ بدقة أكبر بعدد الرموز المُسودة (drafted tokens) في كل جولة تدقيق.

يمكنك العثور على جميع نقاط التفتيش الأصلية لنموذج Gemma 4 Assistant ضمن إصدار Gemma 4.

أمثلة على الاستخدام

يُظهر المثال أدناه كيفية توليد النص بناءً على صورة باستخدام Pipeline أو فئة AutoModel.

import torch
from transformers import pipeline

pipeline = pipeline(
    task="image-text-to-text",
    model="google/gemma-4-E2B-it",
    assistant_model="google/gemma-4-E2B-it-assistant",
)
pipeline(
    images="https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg",
    text="<|image|>\n\nWhat is shown in this image?"
)

import torch
from transformers import AutoProcessor, AutoModelForImageTextToText

model = AutoModelForImageTextToText.from_pretrained(
    "google/gemma-4-E2B-it",
    dtype=torch.bfloat16,
    device_map="auto",
)
assistant_model = AutoModelForCausalLM.from_pretrained(
    "google/gemma-4-E2B-it-assistant",
    dtype=torch.bfloat16,
    device_map="auto",
)

processor = AutoProcessor.from_pretrained(
    "google/gemma-4-E2B-it",
    padding_side="left"
)
messages = [
    {
        "role": "user", "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"},
            {"type": "text", "text": "What is shown in this image?"},
        ]
    },
]
inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    add_generation_prompt=True,
).to(model.device)
input_len = inputs["input_ids"].shape[-1]

output = model.generate(**inputs, max_new_tokens=50, assistant_model=assistant_model)
print(processor.decode(output[0][input_len:], skip_special_tokens=True))

Gemma4AssistantConfig

>>> from transformers import (
>>>     Gemma4AssistantConfig,
>>>     Gemma4AssistantForCausalLM,
>>>     Gemma4TextConfig,
>>> )

>>> # Initializing a Gemma 4 Text config similar to google/gemma-4-e2b-it-assistant.
>>> text_config = Gemma4TextConfig(...)

>>> # Initializing a Gemma 4 Assistant config similar to google/gemma-4-e2b-it-assistant.
>>> configuration = Gemma4AssistantConfig(text_config)

>>> # Initializing a model from the google/gemma-4-e2b-it-assistant configuration.
>>> model = Gemma4AssistantForCausalLM(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

Gemma4AssistantForCausalLM

>>> from transformers import AutoTokenizer, Gemma4AssistantForCausalLM, Gemma4ForCausalLM

>>> model = Gemma4ForCausalLM.from_pretrained("google/gemma-4-e2b-it")
>>> assistant_model = Gemma4AssistantForCausalLM.from_pretrained("google/gemma-4-e2b-it-assistant")
>>> tokenizer = AutoTokenizer.from_pretrained("google/gemma-4-e2b-it")

>>> prompt = "What is your favorite condiment?"
>>> inputs = tokenizer(prompt, return_tensors="pt")

>>> # Generate
>>> generate_ids = model.generate(inputs.input_ids, assistant_model=assistant_model, max_length=30)
>>> tokenizer.batch_decode(generate_ids, skip_special_tokens=True)[0]
"What is your favorite condiment?"