* initial checkin

* resolve cr comments

* resolve the build issue

* fix the data correctless issue

* update fp8 header file and update the unit test for fp8 support

* remove fp16 from fp8 headers

* fix ut issue and catch up the latest code from develop

* udate according to cr comments

* update ut according to cr comments

* update num floats for each SumPostDiv from 4 to 6

* update fp8 header file name

* fix the typo

[ROCm/rccl commit: 6777e65c1d]
Цей коміт міститься в:
Andy li
2024-03-09 07:17:53 +08:00
зафіксовано GitHub
джерело 2354601589
коміт e373bd44bf
29 змінених файлів з 1243 додано та 48 видалено
+2
Переглянути файл
@@ -16,6 +16,8 @@ typedef enum { ncclInt8 = 0, ncclChar = 0,
ncclFloat32 = 7, ncclFloat = 7,
ncclFloat64 = 8, ncclDouble = 8,
ncclBfloat16 = 9,
ncclFp8E4M3 = 10,
ncclFp8E5M2 = 11,
} ncclDataType_t;
#endif