Режим Rasterizer в mental ray грубо говоря работает так же как prman REYES.
Вначале, для той геометрии что попала в бакет, происходит dicing или тесселяция полигонов в микрополигоны в размер пиксела каждый (если shading quality 1). Чем больше shading quality тем меньше микрополигоны и наоборот.
Потом в каждом вертексе или микрополигоне происходит шейдинг, результат которого записывается в эти самые вертексы. Получается что шейдинг посчитан и как бы забейкан на объекте.
После чего происходит отрисовка объектов с помощью pixel samples. Именно на этой стадии делается моушен блюр, который не зависит уже от сложности шейдера на объекте, ведь все запечено.
pixel samples соответственно влияют на антиалиязинг объекта, моушен блюр, но никак на качество шейдинга. За это отвечает только shading quality.
Никакого адаптивного самплинга ни при шейдинге, ни при отрисовке нет.
Ну в кратце как то так. Не знаю уж написано об этом в книжке или нет.