Spaces:

akadirgok
/

github-asistani

Running

github-asistani / github_rag /llm /base.py

kadiirgok

Add RAG chatbot app (Gradio interface)

9ad23a2 2 months ago

642 Bytes

# -*- coding: utf-8 -*-
"""LLM arka ucu arayüzü.
generate_answer yalnızca bu arayüzü bilir; böylece farklı arka uçlar
(DeepSeek, Groq vb.) birbirinin yerine takılabilir olur.
"""

from abc import ABC, abstractmethod


class LLMBackend(ABC):
    """Mesaj listesinden metin cevabı üreten herhangi bir model arka ucu."""

    @abstractmethod
    def complete(self, messages: list[dict], max_tokens: int,
                 temperature: float, repeat_penalty: float = 1.1,
                 top_p: float = 0.9) -> str:
        """messages: [{"role": "system"/"user", "content": ...}] -> cevap metni."""
        raise NotImplementedError

	# -- coding: utf-8 --
	"""LLM arka ucu arayüzü.

	generate_answer yalnızca bu arayüzü bilir; böylece farklı arka uçlar
	(DeepSeek, Groq vb.) birbirinin yerine takılabilir olur.
	"""

	from abc import ABC, abstractmethod


	class LLMBackend(ABC):
	"""Mesaj listesinden metin cevabı üreten herhangi bir model arka ucu."""

	@abstractmethod
	def complete(self, messages: list[dict], max_tokens: int,
	temperature: float, repeat_penalty: float = 1.1,
	top_p: float = 0.9) -> str:
	"""messages: [{"role": "system"/"user", "content": ...}] -> cevap metni."""
	raise NotImplementedError