Есть несколько способов:
1) рендер в видеофайл: в один файл кодеком поддерживающим альфа-канал (например, Форвард-альфа www.softlab-nsk.com). В рендер-опциях ставишь галочку Save animation и указываешь кодек и имя файла.
Этот кодек имеет интересную особенность: Макс его не видит, а ЛВ - видит, притом, что сами разработчики работают с Максом, до ЛВ руки не доходят.
2) рендер в одну image-секвенцию в формате, поддерживающим 32 бита (TIFF, TGA, PNG, etc). Одна галочка Save RGB с указанием формата и имени.
3) рендер в две image-секвенции: первая - Save RGB в любом 24-битном формате, вторая - Save Alpha желательно тем же форматом, но будет 8-битная.