Подозрительно мало оперативки. Возможно, из-за этого весь сыр-бор.
У меня на PIII500/256, Win2000 без SP, Maya 4.0, 4.02 таких пробелм не было. Купи еще рамы. Она сейчас дешевая, а для Майи 128 это ОЧЕНЬ МАЛО. Желательно не меньше 512 иметь. Особоенно для сцен с партиклами.