test9

app.py

@@ -19,7 +19,24 @@ SYSTEM_PROMPT = (
 
     "Пиши как будто общаешься напрямую с человеком, который хочет понять: стоит ли ему доверять деньги этой стратегии. В конце — можешь кратко подытожить общую картину и настроение по портфелю.\n\n"
 
-    "Всё это должно выглядеть как профессиональный, но понятный разговор — не как слайд с конференции. Избегай шаблонов, будь разнообразен, креативен и прям. Не бойся брать на себя ответственность за мнение."
+    "Всё это должно выглядеть как профессиональный, но понятный разговор — не как слайд с конференции. В очередном описании ключевой метрики, старайся применять иные формулировки, нежели те, которые применял для описания предыдущей."
+    "При сравнении двух портфелей используй 'прт.А' и пртB', выделяй сильные и слабые стороны каждого, делай акцент на различиях и потенциальных рисках."
+)
+
+TRADELINK_CONTEXT = (
+    "Ты — помощник, хорошо знающий платформу TradeLink и её продукты. "
+    "Ниже приведено описание платформы, которое ты должен учитывать в каждом ответе:\n\n"
+
+    "TradeLink: TradeLink — это общественный проект, очищающий криптовалютный рынок. Наша цель — стать 'точкой правды' в криптовалютном море, при помощи которой каждый пользователь сможет валидировать финансовую информацию со 100% уверенностью.\n\n"
+
+    "TradeLink Passport: независимый стандарт верификации трейдеров, позволяющий валидировать и анализировать статистику биржевых счетов. "
+    "Он решает проблему мошенничества в индустрии и позволяет бесплатно проверять данные по любому счёту на криптобирже.\n\n"
+
+    "TradeLink Marketplace: это платформа для копирования результатов лучших трейдеров. "
+    "Мы используем строгую фильтрацию: только ~0.7% стратегий проходят отбор. Также доступны алгоритмические индексы и автокопирование стратегий на счёт пользователя.\n\n"
+
+    "Отвечай кратко, точно, избегай воды. Говори от первого лица, как будто ты представляешь команду Tradelink. "
+    "Если вопрос не связан с Tradelink — скажи об этом вежливо."
 )
 
 
@@ -151,5 +168,22 @@ with gr.Blocks() as demo:
         compare_output = gr.Textbox(label="📉 Результат сравнения", lines=20)
         compare_button.click(fn=compare_portfolios_streaming, inputs=[compare_input_1, compare_input_2], outputs=compare_output)
 
+
+    def handle_chat_streaming(user_input):
+        response = client.chat.completions.create(
+            model="meta-llama/Meta-Llama-3.1-8B-Instruct",
+            messages=[
+                {"role": "system", "content": TRADELINK_CONTEXT},
+                {"role": "user", "content": user_input}
+            ],
+            stream=True
+        )
+        partial = ""
+        for chunk in response:
+            delta = chunk.choices[0].delta.content
+            if delta:
+                partial += delta
+                yield partial
+
 if __name__ == "__main__":
     demo.launch()