Если ты про рендеринг, то никаким. Лучше сохранять в Targa (.tga) секвенцию с включенным альфаканалом если нужно. Испортить компресоором всегда можно, и на последующих стадиях обработки + если макс зависнет, можно возобновить с этого места.
А если ты сразу для просмотра, то DivX, Xvid, DV и пр. Нужно подбирать для себя и для конкретного случая. У них у всех свои преимущества и недостатки.