Лично я бы рекомендовал все же формат OpenEXR, на него сейчас многие резработчики движков визуализации обратили внимание, особенно таких как mental ray, renderman, v-ray, arnold и т.п.. Я постоянно его использую в работе. До 8-бит видео его легче будет грохнуть чем возиться с 8-битами от рендера на композе. В принципе, для облегчения файла, можно использовать 16-bit Floating Point OpenEXR (в пассах для mental ray можно выбрать его без проблем, с другими рендерами точно сказать не могу). Он позволяет сохранить достаточно информации для последующего поста и в тоже время, уменьшить объем примерно в 2 раза. В остальном, все зависит от того, какие пассы выводятся и как они будут в последствии использованы. Может быть, вы просто стандартные Beauty пассы выводите и пару пассов для глубин или еще что-то. В таком случае для beauty можно 16-bit fp использовать а для глубин уже 32-bit fp. НУ и конечно, можно просто выводить в отдельные файлы (настройка сохранения картинок в Render Settings).