фактически в Блендере даже Иви и Сайклс по разному с прозрачностями работают. В Иви вообще есть несколько режимов учета прозрачности. В Сайклс нужно настраивать сэмплинг с количеством плоскостей, на которых может обсчитываться прозрачность и т.п.
FBX как правило не передает корректно материалы из одного рендера в другой. Самые простые шейдеры типа Ламберта и Блина может еще как-то скажем в Мармосет передать.
но более универсальный способ это использовать PBR материалы и в каждом рендере под них выбирать соответствующий шейдер, где в его слоты закидывать уже текстуры. В частности ту же карту прозрачности.
Тоже есть вариации. В том же Блендере скажем можно ведь сделать традиционную черно-белую текстуру для альфы.
Но в пределах Блендера, да и не только в нем, хорошо срабатывает использование альфа-канала из текстуры скажем в ПНГ формате.
Из нее в принципе при необходимости и черно-белую альфу можно вытянуть без особого труда. Ну к примеру в фотошопе преобразовать в BW, может уровни подогнать и т.п.
в общем в целом FBX это скорее про перенос геометрии. А материалы в каждом рендере или движке все равно надо отдельно подкручивать. При наличии комплекта ПБР текстур это проще всего сделать