Adarka commited on
Commit
72f07a7
·
verified ·
1 Parent(s): 6848db9

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +4 -0
app.py CHANGED
@@ -1,3 +1,6 @@
 
 
 
1
  from fastapi import FastAPI
2
  from pydantic import BaseModel
3
  from typing import Dict
@@ -5,6 +8,7 @@ from transformers import pipeline
5
 
6
  app = FastAPI()
7
 
 
8
  # Utilise un petit modèle pour que ça fonctionne même sur les GPUs limités
9
  llm = pipeline("text2text-generation", model="google/flan-t5-base", max_new_tokens=300)
10
 
 
1
+ import os
2
+ os.environ["TRANSFORMERS_CACHE"] = "./cache"
3
+
4
  from fastapi import FastAPI
5
  from pydantic import BaseModel
6
  from typing import Dict
 
8
 
9
  app = FastAPI()
10
 
11
+
12
  # Utilise un petit modèle pour que ça fonctionne même sur les GPUs limités
13
  llm = pipeline("text2text-generation", model="google/flan-t5-base", max_new_tokens=300)
14