hardbanai, hardbanrecords, audio-generation, text-generation, image-generation, ai-publishing, creative-ai, emotional-style, multimodal, polish-language, musicgen

Model card Files Files and versions

xet

Community

HardbanAI / handler.py

HardbanRecordsLab

Create handler.py

6a9d6aa verified over 1 year ago

Raw History Blame Contribute Delete

1.15 kB

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch
import json

# Inicjalizacja modelu i tokenizera (ładuj tylko raz, przy starcie handlera)
model_path = "./"  # ścieżka do folderu z modelem

tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForSeq2SeqLM.from_pretrained(model_path)
model.eval()

def handle(event, context):
    """
    event: dict, z kluczem 'text' zawierającym tekst do przetworzenia
    context: obiekt kontekstowy (zależny od platformy, nieużywany tu)
    Zwraca dict z wygenerowanym tekstem.
    """

    # Wczytaj input
    try:
        if isinstance(event, str):
            event = json.loads(event)
        text = event.get("text", "")
    except Exception as e:
        return {"error": f"Błąd parsowania danych wejściowych: {str(e)}"}

    if not text:
        return {"error": "Brak tekstu do przetworzenia."}

    # Tokenizacja i generacja
    inputs = tokenizer(text, return_tensors="pt")
    with torch.no_grad():
        outputs = model.generate(**inputs)

    result = tokenizer.decode(outputs[0], skip_special_tokens=True)

    return {"generated_text": result}

	from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
	import torch
	import json

	# Inicjalizacja modelu i tokenizera (ładuj tylko raz, przy starcie handlera)
	model_path = "./" # ścieżka do folderu z modelem

	tokenizer = AutoTokenizer.from_pretrained(model_path)
	model = AutoModelForSeq2SeqLM.from_pretrained(model_path)
	model.eval()

	def handle(event, context):
	"""
	event: dict, z kluczem 'text' zawierającym tekst do przetworzenia
	context: obiekt kontekstowy (zależny od platformy, nieużywany tu)

	Zwraca dict z wygenerowanym tekstem.
	"""

	# Wczytaj input
	try:
	if isinstance(event, str):
	event = json.loads(event)
	text = event.get("text", "")
	except Exception as e:
	return {"error": f"Błąd parsowania danych wejściowych: {str(e)}"}

	if not text:
	return {"error": "Brak tekstu do przetworzenia."}

	# Tokenizacja i generacja
	inputs = tokenizer(text, return_tensors="pt")
	with torch.no_grad():
	outputs = model.generate(**inputs)

	result = tokenizer.decode(outputs[0], skip_special_tokens=True)

	return {"generated_text": result}