При обработке такого файла, нужно оперативной памяти не менее 256МБ, лучше 512МБ.
На РС динамичное распределение памяти, закрой все лишнии программы, в установках шопа поставь 75% используемой памяти, это если у тебя меньше 512МБ и в перед
На маке немного подругому, если мало памяти, то можно попробовать RAM disk, хотя я не уверен, что это сильно поможет