test deepseek

app.py

@@ -1,78 +1,60 @@
 # app.py
 import gradio as gr
-# from openai import OpenAI # type: ignore
-import os
-
-# chat = gr.ChatInterface(
-#     call_api.call_deepseek, #chat
-#     title="Trợ lý Học Tập AI",
-#     description="Nhập câu hỏi của bạn về Toán, Lý, Hóa, Văn… và nhận giải đáp chi tiết ngay lập tức!",
-#     additional_inputs=[
-#         gr.Textbox("Bạn là một chatbot tiếng Việt thân thiện.", label="System message"),
-#         gr.Slider(1, 2048, value=200, step=1, label="Max new tokens"),
-#         gr.Slider(0.1, 4.0, value=0.7, step=0.1, label="Temperature"),
-#         gr.Slider(0.1, 1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
+import call_api
+
+chat = gr.ChatInterface(
+    call_api.call_deepseek, #chat
+    title="Trợ lý Học Tập AI",
+    description="Nhập câu hỏi của bạn về Toán, Lý, Hóa, Văn… và nhận giải đáp chi tiết ngay lập tức!",
+    additional_inputs=[
+        gr.Textbox("Bạn là một chatbot tiếng Việt thân thiện.", label="System message"),
+        gr.Slider(1, 2048, value=200, step=1, label="Max new tokens"),
+        gr.Slider(0.1, 4.0, value=0.7, step=0.1, label="Temperature"),
+        gr.Slider(0.1, 1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
         
-#         gr.Image(label="Attach an image (optional)"), # báo lỗi
-#         gr.File(label="Upload a file (optional)"), # báo lỗi
-#     ],
-#     # examples=[
-#     #     # Mỗi item: [message, system_message, max_tokens, temperature, top_p]
-#     #     ["tích phân của x^2 từ 0 đến 2 là gì? vui lòng lập luận từng bước, và đặt kết quả cuối cùng trong \boxed{}", "bạn là nhà toán học", 100, 0.7, 0.95],
-#     # ],
-# )
-
-
+        gr.Image(label="Attach an image (optional)"), # báo lỗi
+        gr.File(label="Upload a file (optional)"), # báo lỗi
+    ],
+    # examples=[
+    #     # Mỗi item: [message, system_message, max_tokens, temperature, top_p]
+    #     ["tích phân của x^2 từ 0 đến 2 là gì? vui lòng lập luận từng bước, và đặt kết quả cuối cùng trong \boxed{}", "bạn là nhà toán học", 100, 0.7, 0.95],
+    # ],
+)
 
+# Chạy app
+if __name__ == "__main__":
+    chat.launch(show_error=True)
 
-def call_deepseek_new(
-    user_prompt,
-    chat_history
-):
-    history = chat_history or []
-    history.append({"role": "user", "content": user_prompt})
 
-    # # Gọi API DeepSeek Chat (OpenAI-compatible, không stream)
-    # response = deepseek.chat.completions.create(
-    #     model      = "deepseek-chat",       # hoặc model bạn đã config
-    #     messages   = history,
-    # )
 
-    # Lấy nội dung assistant trả về
-    reply = "response.choices[0].message.content"
 
-    # Append vào history
-    history.append({"role": "assistant", "content": reply})
 
-    # Trả về 2 outputs: toàn bộ history và đúng reply để render Markdown
-    return history, reply
 
-with gr.Blocks() as demo:  # Bắt đầu Blocks
-    # Thành phần hiển thị lịch sử chat
-    chatbot = gr.Chatbot(type="messages")  # hỗ trợ subset Markdown:contentReference[oaicite:3]{index=3}
 
-    # Thành phần Markdown để render kết quả đã format (Markdown + LaTeX)
-    markdown = gr.Markdown(
-        latex_delimiters=[{"left": "$$", "right": "$$", "display": True}]
-    )  # cho phép render LaTeX:contentReference[oaicite:4]{index=4}
+"""
 
-    # Các input controls
-    with gr.Row():
-        txt = gr.Textbox(label="Nhập câu hỏi")
-        sys_msg = gr.Textbox(value="Bạn là một chatbot tiếng Việt thân thiện.", label="System message")
-    with gr.Row():
-        max_t = gr.Slider(1, 2048, value=500, step=1, label="Max new tokens")
-        temp = gr.Slider(0.1, 4.0, value=0.7, step=0.1, label="Temperature")
-        top_p = gr.Slider(0.1, 1.0, value=0.95, step=0.05, label="Top-p")
+"""
+# with gr.Blocks() as demo:  # Bắt đầu Blocks
+#     # Thành phần hiển thị lịch sử chat
+#     chatbot = gr.Chatbot(type="messages")  # hỗ trợ subset Markdown:contentReference[oaicite:3]{index=3}
 
-    # Sự kiện submit
-    txt.submit(
-        call_deepseek_new,
-        inputs=[txt, chatbot],
-        outputs=[chatbot, markdown],
-    )
+#     # Thành phần Markdown để render kết quả đã format (Markdown + LaTeX)
+#     markdown = gr.Markdown(
+#         latex_delimiters=[{"left": "$$", "right": "$$", "display": True}]
+#     )  # cho phép render LaTeX:contentReference[oaicite:4]{index=4}
 
+#     # Các input controls
+#     with gr.Row():
+#         txt = gr.Textbox(label="Nhập câu hỏi")
+#         sys_msg = gr.Textbox(value="Bạn là một chatbot tiếng Việt thân thiện.", label="System message")
+#     with gr.Row():
+#         max_t = gr.Slider(1, 2048, value=500, step=1, label="Max new tokens")
+#         temp = gr.Slider(0.1, 4.0, value=0.7, step=0.1, label="Temperature")
+#         top_p = gr.Slider(0.1, 1.0, value=0.95, step=0.05, label="Top-p")
 
-# Chạy app
-if __name__ == "__main__":
-    demo.launch(show_error=True)
+#     # Sự kiện submit
+#     txt.submit(
+#         call_deepseek_new,
+#         inputs=[txt, chatbot],
+#         outputs=[chatbot, markdown],
+#     )

call_api.py

@@ -1,188 +1,188 @@
-# from openai import OpenAI # type: ignore
-# import os
-
-
-# def call_openai(
-#             user_prompt, 
-#             chat_history: list[tuple[str, str]], 
-#             system_prompt, 
-#             max_tokens, 
-#             temperature, 
-#             top_p,
-#             file_upload=None,
-#             image_upload=None
-#     ):
-
-#     if file_upload == None:
-#         try:
-#             pass
-#         except:
-#             pass
-
-#     if image_upload == None:
-#         try:
-#             pass
-#         except:
-#             pass
-
-#     #read system message
-#     messages = [{"role": "system", "content": system_prompt}]
+from openai import OpenAI # type: ignore
+import os
+
+
+def call_openai(
+            user_prompt, 
+            chat_history: list[tuple[str, str]], 
+            system_prompt, 
+            max_tokens, 
+            temperature, 
+            top_p,
+            file_upload=None,
+            image_upload=None
+    ):
+
+    if file_upload == None:
+        try:
+            pass
+        except:
+            pass
+
+    if image_upload == None:
+        try:
+            pass
+        except:
+            pass
+
+    #read system message
+    messages = [{"role": "system", "content": system_prompt}]
     
-#     #read history
-#     for user_chat, assistant_chat in chat_history:
-#         if user_chat:
-#             messages.append({"role": "user", "content": user_chat})
-#         if assistant_chat:
-#             messages.append({"role": "assistant", "content": assistant_chat})
+    #read history
+    for user_chat, assistant_chat in chat_history:
+        if user_chat:
+            messages.append({"role": "user", "content": user_chat})
+        if assistant_chat:
+            messages.append({"role": "assistant", "content": assistant_chat})
     
-#     #read output
-#     messages.append({"role": "user", "content": user_prompt})
-#     print("## Messages: \n", messages) #debug output
-
-#     #create output
-#     response = OpenAI().responses.create(
-#         model="gpt-4.1-nano", 
-#         input=messages,
-#         temperature=temperature,
-#         top_p=top_p,
-#         max_output_tokens=max_tokens
-#     )
-
-#     #read output
-#     response = response.output_text
-#     print("## Response: ", response) #debug output
-#     print("\n")
-#     yield response #chat reply
-
-# deepseek = OpenAI(api_key = os.getenv("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com")
-# def call_deepseek(
-#     user_prompt: str,
-#     chat_history: list[tuple[str, str]],
-#     system_prompt: str,
-#     max_tokens: int,
-#     temperature: float,
-#     top_p: float,
-#     file_upload=None,
-#     image_upload=None
-# ):  
+    #read output
+    messages.append({"role": "user", "content": user_prompt})
+    print("## Messages: \n", messages) #debug output
+
+    #create output
+    response = OpenAI().responses.create(
+        model="gpt-4.1-nano", 
+        input=messages,
+        temperature=temperature,
+        top_p=top_p,
+        max_output_tokens=max_tokens
+    )
+
+    #read output
+    response = response.output_text
+    print("## Response: ", response) #debug output
+    print("\n")
+    yield response #chat reply
+
+deepseek = OpenAI(api_key = os.getenv("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com")
+def call_deepseek(
+    user_prompt: str,
+    chat_history: list[tuple[str, str]],
+    system_prompt: str,
+    max_tokens: int,
+    temperature: float,
+    top_p: float,
+    file_upload=None,
+    image_upload=None
+):  
     
+    """
+    Gọi DeepSeek Chat qua OpenAI-compatible API (không stream).
+    - file_upload và image_upload tùy chọn (None để bỏ qua xử lý).
+    Trả về:
+    - reply (str): nội dung model sinh ra.
+    """
+    # 1. Xử lý tùy chọn file (nếu có)
+    if file_upload == None:
+        try:
+            pass
+        except:
+            pass
+
+    if image_upload == None:
+        try:
+            pass
+        except:
+            pass
+
+    # 3. Xây dựng messages lịch sử chat
+    messages = [{"role": "system", "content": system_prompt}]
+    for user_msg, ai_msg in chat_history:
+        if user_msg:
+            messages.append({"role": "user", "content": user_msg})
+        if ai_msg:
+            messages.append({"role": "assistant", "content": ai_msg})
+    # Thêm prompt hiện tại của user
+    messages.append({"role": "user", "content": user_prompt})
+
+    # 4. Gọi API DeepSeek Chat (OpenAI-compatible)
+    response = OpenAI(api_key = os.getenv("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com").chat.completions.create(
+        model="deepseek-chat",       # hoặc model bạn cấu hình
+        messages=messages,
+        temperature=temperature,
+        top_p=top_p,
+        max_tokens=max_tokens
+    )
+
+    # 5. Trích xuất kết quả trả về
+    reply = response.choices[0].message.content
+    return reply
+
+# 1. Hàm gọi DeepSeek + build/append history
+def call_deepseek_new(
+    user_prompt,
+    chat_history,       # sẽ là [{"role":"user"/"assistant","content":...}, …]
+    # system_prompt: str,
+    # max_tokens: int,
+    # temperature: float,
+    # top_p: float,
+    # file_upload=None,
+    # image_upload=None
+):
+    # Khởi tạo history nếu None
+    history = chat_history or []
+
+    # Append system prompt (chỉ ở lần đầu nếu bạn muốn)
+    # if not any(m["role"]=="system" for m in history):
+    #     history.insert(0, {"role": "system", "content": system_prompt})
+
+    # Append message mới của user
+    history.append({"role": "user", "content": user_prompt})
+
+    # Gọi API DeepSeek Chat (OpenAI-compatible, không stream)
+    response = deepseek.chat.completions.create(
+        model      = "deepseek-chat",       # hoặc model bạn đã config
+        messages   = history,
+        # temperature= temperature,
+        # top_p      = top_p,
+        # max_tokens = max_tokens
+    )
+
+    # Lấy nội dung assistant trả về
+    reply = response.choices[0].message.content
+
+    # Append vào history
+    history.append({"role": "assistant", "content": reply})
+
+    # Trả về 2 outputs: toàn bộ history và đúng reply để render Markdown
+    return history, reply
+
+
+"""
+Không có billing nên không xài được replicate
+"""
+# import replicate
+
+# def deepseek_api_replicate(
+#             user_prompt, 
+#             history: list[tuple[str, str]], 
+#             system_prompt, 
+#             max_new_tokens, 
+#             temperature, 
+#             top_p):
 #     """
-#     Gọi DeepSeek Chat qua OpenAI-compatible API (không stream).
-#     - file_upload và image_upload tùy chọn (None để bỏ qua xử lý).
+#     Gọi DeepSeek Math trên Replicate và trả ngay kết quả.
+
 #     Trả về:
-#     - reply (str): nội dung model sinh ra.
+#         str hoặc [bytes]: output model sinh ra
 #     """
-#     # 1. Xử lý tùy chọn file (nếu có)
-#     if file_upload == None:
-#         try:
-#             pass
-#         except:
-#             pass
-
-#     if image_upload == None:
-#         try:
-#             pass
-#         except:
-#             pass
-
-#     # 3. Xây dựng messages lịch sử chat
-#     messages = [{"role": "system", "content": system_prompt}]
-#     for user_msg, ai_msg in chat_history:
-#         if user_msg:
-#             messages.append({"role": "user", "content": user_msg})
-#         if ai_msg:
-#             messages.append({"role": "assistant", "content": ai_msg})
-#     # Thêm prompt hiện tại của user
-#     messages.append({"role": "user", "content": user_prompt})
-
-#     # 4. Gọi API DeepSeek Chat (OpenAI-compatible)
-#     response = OpenAI(api_key = os.getenv("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com").chat.completions.create(
-#         model="deepseek-chat",       # hoặc model bạn cấu hình
-#         messages=messages,
-#         temperature=temperature,
-#         top_p=top_p,
-#         max_tokens=max_tokens
-#     )
-
-#     # 5. Trích xuất kết quả trả về
-#     reply = response.choices[0].message.content
-#     return reply
-
-# # 1. Hàm gọi DeepSeek + build/append history
-# def call_deepseek_new(
-#     user_prompt,
-#     chat_history,       # sẽ là [{"role":"user"/"assistant","content":...}, …]
-#     # system_prompt: str,
-#     # max_tokens: int,
-#     # temperature: float,
-#     # top_p: float,
-#     # file_upload=None,
-#     # image_upload=None
-# ):
-#     # Khởi tạo history nếu None
-#     history = chat_history or []
-
-#     # Append system prompt (chỉ ở lần đầu nếu bạn muốn)
-#     # if not any(m["role"]=="system" for m in history):
-#     #     history.insert(0, {"role": "system", "content": system_prompt})
-
-#     # Append message mới của user
-#     history.append({"role": "user", "content": user_prompt})
-
-#     # Gọi API DeepSeek Chat (OpenAI-compatible, không stream)
-#     response = deepseek.chat.completions.create(
-#         model      = "deepseek-chat",       # hoặc model bạn đã config
-#         messages   = history,
-#         # temperature= temperature,
-#         # top_p      = top_p,
-#         # max_tokens = max_tokens
+#     # 1. Khởi tạo client và xác thực
+#     # token = os.getenv("REPLICATE_API_TOKEN")
+#     # if not token:
+#     #     raise RuntimeError("Missing REPLICATE_API_TOKEN")  # bảo mật bằng biến môi trường
+#     client = replicate.Client(api_token="REPLICATE_API_TOKEN")          
+
+#     # 2. Gọi model
+#     output = client.run(
+#         "deepseek-ai/deepseek-math-7b-base:61f572dae0985541cdaeb4a114fd5d2d16cb40dac3894da10558992fc60547c7",
+#         input={
+#             "system_prompt": system_prompt,
+#             "user_prompt":   user_prompt,
+#             "max_new_tokens": max_new_tokens,
+#             "temperature":    temperature,
+#             "top_p":          top_p
+#         }
 #     )
 
-#     # Lấy nội dung assistant trả về
-#     reply = response.choices[0].message.content
-
-#     # Append vào history
-#     history.append({"role": "assistant", "content": reply})
-
-#     # Trả về 2 outputs: toàn bộ history và đúng reply để render Markdown
-#     return history, reply
-
-
-# """
-# Không có billing nên không xài được replicate
-# """
-# # import replicate
-
-# # def deepseek_api_replicate(
-# #             user_prompt, 
-# #             history: list[tuple[str, str]], 
-# #             system_prompt, 
-# #             max_new_tokens, 
-# #             temperature, 
-# #             top_p):
-# #     """
-# #     Gọi DeepSeek Math trên Replicate và trả ngay kết quả.
-
-# #     Trả về:
-# #         str hoặc [bytes]: output model sinh ra
-# #     """
-# #     # 1. Khởi tạo client và xác thực
-# #     # token = os.getenv("REPLICATE_API_TOKEN")
-# #     # if not token:
-# #     #     raise RuntimeError("Missing REPLICATE_API_TOKEN")  # bảo mật bằng biến môi trường
-# #     client = replicate.Client(api_token="REPLICATE_API_TOKEN")          
-
-# #     # 2. Gọi model
-# #     output = client.run(
-# #         "deepseek-ai/deepseek-math-7b-base:61f572dae0985541cdaeb4a114fd5d2d16cb40dac3894da10558992fc60547c7",
-# #         input={
-# #             "system_prompt": system_prompt,
-# #             "user_prompt":   user_prompt,
-# #             "max_new_tokens": max_new_tokens,
-# #             "temperature":    temperature,
-# #             "top_p":          top_p
-# #         }
-# #     )
-
-# #     # 3. Trả kết quả
-# #     return output
+#     # 3. Trả kết quả
+#     return output

requirements.txt

@@ -1,5 +1,5 @@
 gradio
-# openai
+openai
 # replicate
 # torch
 # transformers