Для получения теней с нерезкими (размытыми краями). Нужно использовать новые источники света, которые появляются после установки Mental Ray Connection для 3DS MAX R3.1 - Area Spot и Area Omni. В настройках этих источников есть Area Light Parameters, среди которых есть Type - задает форму источника (Disk, Rectangle) и Radius (Width, Height) - задает размер источника. Увеличивая этот самый размер, и получаются мягкие тени. Хорошо бы еще включить Global Illumination и тогда вообще здорово будет.