Add MSCCL Support (#658)

* Add MSCCL support

* Add alignment and message size checking

* Fix nRanks checking, in-place and out-of-place tests and group call handling

* Fix hipGraph unit test

* Change MSCCL init warning to INFO

* Revise license info

Αυτή η υποβολή περιλαμβάνεται σε:

Ziyue Yang

2022-12-13 07:51:04 +08:00

υποβλήθηκε από

GitHub

γονέας b953544a59

υποβολή adafc0f759

38 αρχεία άλλαξαν με 40923 προσθήκες και 11 διαγραφές

tools/msccl-unit-test-algorithms/all-reduce-ring-ll.xml

+12708

Προβολή Αρχείου

Το diff αρχείου καταστέλλεται επειδή είναι πολύ μεγάλο Φόρτωση Διαφορών

tools/msccl-unit-test-algorithms/all-reduce-ring-ll128.xml

+12708

Προβολή Αρχείου

Το diff αρχείου καταστέλλεται επειδή είναι πολύ μεγάλο Φόρτωση Διαφορών

tools/msccl-unit-test-algorithms/all-reduce-ring-simple.xml

+12708

Προβολή Αρχείου

Το diff αρχείου καταστέλλεται επειδή είναι πολύ μεγάλο Φόρτωση Διαφορών