выделяешь полики которые хочешь сгладить, не снимая с них выделения, жмешь на кнопочку auto smooth и все.. обрати внимание на угол ограничивающий действие функции.. (фактический угол отклонения между 2 смежными полигонами..)
кнопочка clear all удаляе все группы сглаживания если они уже назначены, или назначены ошибочно.. (действительно только для выделеных полигонов)
попробуй проделать на примере простого цилиндра переведенного в mesh или poly..
может какой глюк с моделью..?