1) F10, вкладка VRay, свиток Global Switches, ставим галку Filter Maps for GI (это если через дирт реализуешь).
2) Если помогло, то в следующий раз используй гугл перед тем, как создавать новую тему, этот вопрос сто раз поднимался.
3) Если не помогло - проверь версию врея, если не SP4 - ставим SP4. В нем алгоритм АО встроен в GI (ищем на вкладке Indirect Illumination).
4) Если и с этим вреем не помогло, отписывайся здесь, будем думать.