Секвенция статичных картинок в формате PNG, TGA, TIF с альфа каналом, затем -- VirtualDub-ом в AVI. Альфа канал - в отдельный AVI. Или что-то в этом роде. Если для композитинга, то некоторые нелинейные видео редакторы работают с секвенциями картинок (опускаем VirtualDub).