Берешь прямоугольник с прямыми углами, берешь окружность того радиуса, на который собираешься закруглять, отравниваешь ее по тому углу, который закругляешь, так что бы она была внутри, и касалась сторон угла.
Удаляешь стороны этого угла, удаляешь 3 четверти окружности, и потом путем нажатия на ctrl+j, соединяешь точки на концах дуги окружности с точками на концах угла...