feat: Configure ROCm attention via --attention-backend CLI argument, disable the Ray dashboard, and make eager mode configurable for cluster benchmarks.

Dieser Commit ist enthalten in:
Donato Capitella
2026-02-02 15:40:16 +00:00
Ursprung 9c6d32e326
Commit 1ddcb9a202
4 geänderte Dateien mit 18 neuen und 17 gelöschten Zeilen
+2 -2
Datei anzeigen
@@ -59,7 +59,7 @@ def setup_worker_node(worker_ip, head_ip):
export NCCL_IB_TIMEOUT=23
export NCCL_IB_RETRY_CNT=7
echo "Starting Ray Worker on {worker_ip} connecting to {head_ip}..."
ray start --address='{head_ip}:6379' --num-gpus=1 --num-cpus=8 --disable-usage-stats
ray start --address='{head_ip}:6379' --num-gpus=1 --num-cpus=8 --disable-usage-stats --include-dashboard=false
"""
print(f"Setting up Worker Node ({worker_ip})...")
@@ -97,7 +97,7 @@ def setup_head_node(head_ip):
export NCCL_IB_TIMEOUT=23
export NCCL_IB_RETRY_CNT=7
echo "Starting Ray Head on {head_ip}..."
ray start --head --port=6379 --node-ip-address={head_ip} --num-gpus=1 --num-cpus=8 --disable-usage-stats
ray start --head --port=6379 --node-ip-address={head_ip} --num-gpus=1 --num-cpus=8 --disable-usage-stats --include-dashboard=false
"""
try: