sentence creating on stream

app.py

@@ -12,7 +12,7 @@ model_path = hf_hub_download(model_name, filename=model_file)
 llm = AutoModelForCausalLM.from_pretrained(model_name, model_file=model_file, 
                                            model_type="mistral", gpu_layers=0)
 def alternatingly_agree(message, history):
-
+    outputs = []
     prompt = """<s> சரியான பதிலுடன் வேலையை வெற்றிகரமாக முடிக்க. தேவையான தகவலை உள்ளிடவும்.
 
     ### Instruction:
@@ -24,8 +24,9 @@ def alternatingly_agree(message, history):
 
     prompt = prompt.format(message)
     result = llm(prompt,max_new_tokens=50,temperature=0.7,stream=True)
-    for i in result:
-        yield i
+    for token in result:
+        outputs.append(token)
+        yield "".join(outputs)