1. Сканлайн сам по себе не умеет трассировать отражения, поэтому
- накинуть на reflection размытую сфер. кату отражений
- в Reflect/Refract увеличить Blur
2. Если все же карта Raytrace, то в настройках Raytracer включить Global Ray Antialiaser и уже в карте Raytrace рулить размытие.
p/s/ В большинстве случаев получается или долго, или отстойно, или и то и другое