Простым максовским сканлайном хорошую картинку не получить, нужно использовать дополнительный рендер типа:VRay, FinalRender, Brazil, MentalRay. Кстати в максе с 5-й версии стоит ментал и радиосити, можно с ними помучаться. Как настраивать все эти прибамбасы это уже отдельная тема. Поищи в форумах, там о многом говорится.
Удачи!