app.py

import gradio as gr
from transformers import pipeline

# بارگیری مدل از Hugging Face
model_name = "deepseek-ai/DeepSeek-V2.5-1210"  # نام مدل را اینجا وارد کنید
pipe = pipeline("text-generation", model=model_name, trust_remote_code=True)

def respond(
    message,
    history: list[tuple[str, str]],
    system_message,
    max_tokens,
    temperature,
    top_p,
):
    # ساخت پیام‌ها برای مدل
    messages = [
        {"role": "system", "content": system_message},
        {"role": "user", "content": message},
    ]

    # تولید متن با مدل
    try:
        response = pipe(
            messages,
            max_length=max_tokens,
            temperature=temperature,
            top_p=top_p,
            num_return_sequences=1
        )
        yield response[0]['generated_text']
    except Exception as e:
        yield f"خطا در تولید متن: {str(e)}"

# ایجاد رابط کاربری با Gradio
demo = gr.ChatInterface(
    respond,
    additional_inputs=[
        gr.Textbox(value="شما یک ربات دوست‌داشتنی هستید.", label="پیام سیستم"),
        gr.Slider(minimum=1, maximum=1024, value=256, step=1, label="حداکثر توکن‌های جدید"),
        gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="دما (Temperature)"),
        gr.Slider(
            minimum=0.1,
            maximum=1.0,
            value=0.9,
            step=0.05,
            label="Top-p (نمونه‌گیری هسته‌ای)",
        ),
    ],
)

# اجرای برنامه
if __name__ == "__main__":
    demo.launch()