Я далаю так: материал окон (точнее, стекло) делаю VRay Override Material. Там на GI ставлю абсолютно прозрачный, а на Base - зеркало. В принципе, если это окно где-то отражается, не лишним будет материал Reflection сделать самосветом с текстурой фона. Потом просчитываю как обычно, потом делаю маску по стеклам, как правило уже сканлайном, и просто накладываю фоновое изображение на результат по этой маске. Регулируя прозрачность этого слоя и подкрашивая его где надо, можно добиться очень неплохих результатов. Такой способ мне нравится из-за своей гибкости и настраиваемости уже почле просчета, т.е. если накосячишь - не надо пересчитывать.