Насколько я помню, такая проблема возникала, если эффект glow накладывается уже после снятия изображения. Собственно это касается любых эффектов. Думаю, следует обратить внимание на порядок действий в videopost.
Рендерить советую не сразу в видео, а в секвенцию png или tga. А потом собрать всё в кучу в видеоредакторе. Если же нужно именно видео, то пиши в avi без сжатия с альфой.