Странно, никогда не сталкивался с такой ошибкой. У меня ощущение, что у тебя проблемы не с Фотошопом а с Виндой.
Может попробовать увеличить файл подкачки? (Из контекстного меню иконки Мой компьютер на рабочем столе выбирается Свойства
Далее — Дополнительно — (Быстродействие) Параметры — Дополнительно - (Виртуальная память) - Изменить)
Когда загрузится Фотошоп проверь его параметры (Ctrl+K) или Edit - Preferences - General
Там найди закладку Memory & Image Cach и выстави пораметр Memory Usage на свое усмотрение. Изначально он стоит на 50%. Я поднимаю до 80%. 100% ставить не рекомендуется, будет подтормаживать Винда.