Сабж, стандартный Matte отказывается кидать тени при рендеринге Vray'ем. Как можно заставить его делать тени на Background'e?))
Как решить именно твою проблему, уж не помню (возможно, что VRay не работает со стандартным matte-shadow). Но в vray-свойствах любого объекта (правой кнопкой мыши на объекте -> Vray properties) есть пунктик matte, потыкайся там. Если сам объект не должен быть виден, поставь "alfa-contribution" = 0.
В настройках виреевского ИС уберите галку store with irradiance map и должно работать. (да, будет дольше рендерить).
Я не знаю, кто чем пользуется, но это просто один из параметров виреевского ИС. И если его отключить, то данный "стандартный" материал работает. У меня старый макс 2009 + вирей 1.5/2.0, там это работает. Новичкам, возможно, поможет + я не претендую на звание "знатока". И не у всех же последние версии макса и вирея.