То что у тебя происходит, это проблема компрессии видео. У меня такое тоже бывает иногда. Есть общие рекомендации по борьбе с этим. Перечислю в процессе их значимости.
1. При сжатии видео увеличивай битрейт. Либо:...
2. Уменьшай размер выходной видео картинки. Чёткость от этого особо не пострадает, а помехи сократятся. Либо:....
3. Уменьшай скорость движения камеры. Это всегда помогает. Либо:...
4. Чуть-чуть заблюривай изображение в процессе копрессии. Либо:...
5. Избегай резких перепадов цвета в картинке. Например на белом фоне тонкая чёрная полоска. Либо:...
6. Старайся не использовать в сценах, больших по площади, однотонных, светлых пространств (чистейшее голубое небо)
Всё что я тебе написал, касается ТОЛЬКО текстурных карт, и не относится к реально сделанным в максе объектам. Это же не относиться и к эффектам окружающей среды. Только к текстурам. Именно они и шумят при компрессии.
Ты наполовину сократишь себе проблем, если будешь рендерить не в AVI, а в сиквенцию TGA с 32-х битным цветом и неквадратным пикселем. Т. е. на выходе будет не AVI-шка, а целый букет нарезанных фоток, которые потом будешь собирать в AVI в "премьере".