С таким колвом оперативки пятый макс лучше не ставить, а на четверке очень даже можно работать, я на таком же работал, даже еще хуже, п-3 800 и видео была таже самая только 32 метра.
Самое первое что нужно сделать, это уменьшить кол-во UNDO/REDO. Они память немеряными кусками жрут.