Update engines/orpheus_engine.py

engines/orpheus_engine.py

@@ -20,22 +20,7 @@ from __future__ import annotations
 
 from snac import SNAC, __version__ as snac_version          # ①
 
-def _load_snac(self, model_name: str = SNAC_MODEL):
-    """
-    Lädt den SNAC-Decoder auf CPU/GPU.
-    Fällt bei jedem Fehler sauber auf CPU zurück.
-    """
-    device = "cuda" if torch.cuda.is_available() else "cpu"
-    try:
-        snac = SNAC.from_pretrained(model_name).to(device)
-        if device == "cuda":                       # half() nur auf GPU – ältere SNAC-Versionen haben keine .half()
-            snac = snac.half()
-        snac.eval()
-        logging.info(f"SNAC {snac_version} loaded on {device}")
-        return snac
-    except Exception as e:
-        logging.exception("SNAC load failed – running with silent fallback")
-        return None
+
 
 ###############################################################################
 # Standard library & 3rd‑party imports                                      #
@@ -74,6 +59,27 @@ CODE_TOKEN_OFFSET     = 128266  # <custom_token_?> – first usable code id
 _INITIAL_GROUPS = 3    # 3×7 = 21 codes ≈ 90 ms @24 kHz
 _STEADY_GROUPS  = 30   # 30×7 = 210 codes ≈ 900 ms
 
+
+SNAC_MODEL = os.getenv("SNAC_MODEL", "hubertsiuzdak/snac_24khz")
+
+
+def _load_snac(self, model_name: str = SNAC_MODEL):
+    """
+    Lädt den SNAC-Decoder auf CPU/GPU.
+    Fällt bei jedem Fehler sauber auf CPU zurück.
+    """
+    device = "cuda" if torch.cuda.is_available() else "cpu"
+    try:
+        snac = SNAC.from_pretrained(model_name).to(device)
+        if device == "cuda":                       # half() nur auf GPU – ältere SNAC-Versionen haben keine .half()
+            snac = snac.half()
+        snac.eval()
+        logging.info(f"SNAC {snac_version} loaded on {device}")
+        return snac
+    except Exception as e:
+        logging.exception("SNAC load failed – running with silent fallback")
+        return None
+
 ###############################################################################
 # Helper functions                                                           #
 ###############################################################################