Попробуй поиграться со значением Chamfer'а (сделай побольше) и ребрами, к которым его применяешь, но вообще это особенность Макса, он именно так сглаживает углы. Попробуй еще просто сетку почаще сделать около угла, при помощи cut'а или других способов.
