В каждом случае есть свои подводные камни и свои преимущества.
Нурбсы - хорошо, как уже сказал товарищ Kite это гладкость (с помощью tesselation можно управлять степенью гладкости нурбсов), их легче деформировать если использовать, например smooth skin (веса для точек кластеров легче рисовать), можно всякие мелочи еще рассказать (что касается текстурирования и т.д.). Теперь ложка дегтя - для того чтобы сделать грамотную модель ее нужно сделать патчами и с помощью stitch или align surface склеить поверхности. Но при скиннинге необходимо учесть, что скин должен быть поверх всех deformers. Иначе при анимации поверхность будет корежиться.
Полигоны - хорошо то, что поверхность единая и при определенной плотности полигонов можно добиться достаточно гладкой поверхности. От полигонов хорошо отражается одежда (для нурбсов это большой геморрой). Удобно делать маппинг (полигональный маппинг в Майе сделан очень и очень хорошо - ничего лучше я пока не видел). Неудобство - для того чтобы сделать хорошую модель нужно чтобы было много полигонов, при анимации большого количества персонажей и объектов в сцене приходится делать уровни детализации (для анимации - низкополигональная модель, для рендера - высокополигональная).
Subdivision surface - пожалуй это попытка компромиса между первым и вторым.
А вообще часто приходится использовать и то и другое - полигоны для неподвижных и недеформируемых объектов, а нурбсы и сабдивы для персонажей.