Я не сталкивался с подобными проблемами. Может быть потому, что давно использую не стандартные библиотеки RayFX а те, которые скачал с сайта Blurstudio. Они хоть и бета, но дают много новых возможностей (таких как Raytrace Soft Shadow) и новые материалы Ink@Paint (обалденная имитация карандашного рисунка получается, если повозиться с настройками), ну и типа мультяшной графики тоже там можно сделать. Только вот всё это считается не слишком быстро.....