Можно отрендерить все послойно, в RLA, затем в AfterFX
глубиной поля порезать и размыть руками. Немного больше времени, но зато результат легче корректировать.
А если тебе нужна какая-то абстракция, так ее лучше вообще в Максе и делать. Только не родным DEFOCUS'ом, поскольку он работает довольно грубо (очевидно из-за отсутствия краевого анти-алиасинга в Z-буфере), а, например, Brazil'ом. На сегодняшний день среди максовскийх рендереров Brazil имеет самый качественный расфокус. У Мауа, конечно, имеется RenderMan, но что-то мне подсказывает, что у тебя его нет.