Вот как раз сам сейчас этим занимаюсь.
Самое лучшее - это убрать все лишнее из сцены, оставить только тот объект которые тебе нужен. Загрузить Hardware Render Buffer - там сделать необходимые настройки(обязательно сделать черный фон и альфа-канал) и рендери.
Только не забудь еще каркасу сделать белый цвет.(потом можешь его в другой перекрасить).
Так вот - это лучший способ. Почему?
В процессе компоузинга ты можешь накладывать эффекты на этот каркас независимо от остальных эффектов. У меня так получается неплохой эффект - когда в сцене что-то показывается, и время от времени проявляется каркас, немного обработанный SoftGlow - красиво.
Да и просчитывается он быстро. Он же Hardware!
Если тебе надо чтобы каркас рендерился вместе со всей сценой - тебе нужен плагин http://www.provide3d.com/. Но он стоит денег.
На форуме если поискать часто упоминается скрипт wireData на hiend3d. Там он есть - но он для 4-ой Maya. А для 5-ой версии только за деньги на вышеуказанном сайте.