Можно сделать по отдельности.
Материал плоскости: Diffuse = 0,0,0, Reflect = 255,255,255, размытие отражения по вкусу. Плоскость исключить из ИС. Просчитать картинку. Затем на предмет VRayLightMaterial, свет и GI выключить, Reflect плоскости понизить до нужного уровня и просчитать альфу. А тень можно добавить тем же Matte.