Была у меня похожая проблема, помогло убирание галки Sub-Pixel Mapping и если в окнах стоят порталы, поставь галку Store with irradiance map. А значения Max Subdivs в свитке DMC image sampler великовато - думаю можно уменьшить до 64; HSph subdivs и Interp samples - тоже уменьши вдвое