Можно заснять огонь на фоне какой ни-будь ткане однообразного цвета. Потом сделать прозрачность ткани, и загружать как слой.
Ещё есть одна программа с "острыми" спецэффектами (взрывы, искры, огонь), ножно взять эффект оттуда. Название программы Illusion, но где скачат не знаю.