force egaer mode to make gemma stable
Este commit está contenido en:
Donato Capitella
@@ -10,6 +10,7 @@ MODEL_TABLE = {
|
||||
|
||||
"google/gemma-3-12b-it": {
|
||||
"trust_remote": False,
|
||||
"enforce_eager": True,
|
||||
"valid_tp": [1, 2],
|
||||
"max_num_seqs": "64",
|
||||
"max_tokens": "32768"
|
||||
|
||||
Referencia en una nueva incidencia
Block a user