Update app.py

app.py

@@ -12,7 +12,7 @@ Hugging Face Transformersライブラリを使用してローカルでモデル
 # モデルとトークナイザーの初期化
 MODEL_NAME = "sbintuitions/sarashina2.2-3b-instruct-v0.1"
 
-print("モデルを読み込み中...")
+print("モデルを読み込み中〜...")
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, trust_remote_code=True)
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
@@ -20,7 +20,12 @@ model = AutoModelForCausalLM.from_pretrained(
     device_map="auto" if torch.cuda.is_available() else None,
     trust_remote_code=True
 )
-print("モデルの読み込みが完了しました。")
+print("モデルの読み込みが完了しました〜。")
+
+print(f"Is CUDA available: {torch.cuda.is_available()}")
+# True
+print(f"CUDA device: {torch.cuda.get_device_name(torch.cuda.current_device())}")
+# Tesla T4
 
 def respond(
     message,