В зависимости от того, что тебе надо, есть два сопособа (вообще то больше), но пока и этого хватит.
1. В параметрах рендеринга для Illustrate можно выбрать ...скэнлайн. Посомтри внимательно влкадку Surfaces > Renderer. Тогда макс сначала отрендерить обычным способом, а потом сверху прорисует еще и линии.
2. Рендеришь скэнлайном (Scanline), но к материалам применяешь Illustrate Cel shader. Посмотри внимательно в редакторе материалов, есть там такой.
А еще посмотри уроки в самом Иллюстраторе и хэлп. Даже если с английским проблемы, то в уроках есть картинки
Там не только тени можно делать, но и отражения