Какой Макс, 32 или 64? И Винды 32 или 64? Если винды 32, стоит ли в boot.ini опция /3Gb? За подробностями на сайт микрософт. Набираешь в поиске Boot.ini и ищеш страничку с параметрами. Там все подробно расписано. На 64 ограничений по памяти нет (точнее есть, но до этого далеко). Ну и сцену проверяешь с параметрами рендера... Мне лично удавалось такой результат достичь только FumeFX c накручеными параметрами при рендере или партикл флоу, если ошибку по размножению дочерних частиц сделать... Кстати, последнее было несколько раз...