Альфа канал - это всего лишь ещё один 8-bit канал в картинке - в добавок к 3-ом RGB каналам (24bit) который содержит информацию о прозрачности.
МАХ- изначально рендерит в 64 битном пространстве (а может и больше - если я не ошибаюсь) и альфа канал получить в нём можно всего лишь указав это в опциях файла, куда нужно сохранить результат рендера (Пр. tiff)
http://www.render.ru/forum/read.php?3,375138