ソースを参照

zen: new inference

Frank 2 ヶ月 前
コミット
6dba0cc498
1 ファイル変更1 行追加0 行削除
  1. 1 0
      packages/console/app/src/routes/zen/util/handler.ts

+ 1 - 0
packages/console/app/src/routes/zen/util/handler.ts

@@ -268,6 +268,7 @@ export async function handler(
 
 
       // Try another provider => stop retrying if using fallback provider
       // Try another provider => stop retrying if using fallback provider
       if (
       if (
+        !isNewInference &&
         res.status !== 200 &&
         res.status !== 200 &&
         // ie. 400 error is usually provider error like malformed request
         // ie. 400 error is usually provider error like malformed request
         res.status !== 400 &&
         res.status !== 400 &&