Рендерить в tga-последовательность и дальше работать с ней. Так мне посоветовали недавно, я так делаю. Плюс везде где есть галки подобные Affect Alpha - ставить их. Альфа - это и есть нужный тебе канал прозрачности.
А вообще для создания огня и всяких эффектов очень рекомендую прогу Particle Illusion 3. Проще и гибче и библиотек дофига с ним идёт. Легко настраиваются.