Блин, ну читай те же Доки к МенталРей для Мауа. Там написанно:
mental ray for Maya does not support the following Maya rendering features:
· All postprocessing effects: Paint Effects, shader/light glow, optical effects, 2d motion blur, and fur rendering.
· All particle effects: particle instancing and software rendering of particle systems
· Volumetric effects: light fog, environment fog, volume fog
И так далее. Читайте же. Там еще много чего интерестного.