Add support for new datatype: bfloat16

This commit is contained in:
David Addison
2021-03-15 14:44:06 -07:00
orang tua 0b30de583f
melakukan e37545e491
2 mengubah file dengan 40 tambahan dan 4 penghapusan
+3
Melihat File
@@ -213,6 +213,9 @@ static size_t wordSize(ncclDataType_t type) {
#endif
return 1;
case ncclHalf:
#if defined(__CUDA_BF16_TYPES_EXIST__)
case ncclBfloat16:
#endif
//case ncclFloat16:
return 2;
case ncclInt: