по-моему здесь и без того Анти-Алиасинг включен... Лесинка появляется во всяких неудачных местах, например когда угол наклона НЕ кратен 45°.
Например в экранных приложениях, в частности в Web'e, разрешение никак не увеличить - какое есть мониторное, такое и будет и все закругляшки и всякое-всякое прочее угловатое обречено на "лесничность", поэтому желательно избегать углов НЕкратных 45°. Здесь хоть через голову прыгни - одна история всегда.
Хотя есть решение, хоть и не супер - "усиление" алиасинга...
Есть слой с лесинкой. Назовем его Слой 1.
Способ №1: Слою 1 включаем внешний Stroke 1px с прозрачностью 20-50% и цветом внешнего контура Слоя 1. Добиваемся нужного эффекта регулируя прозрачность.
Способ №2: Под Слой 1 подкладывается Слой 2, повторяющий контур Слоя 1, но выходящий за его пределы (со стороны лесинки) на 1px, того же цвета, что и внешний контур Слоя 1. Прозрачность как и для Stroke 20-50%... регулируем прозрачность и получаем то что нужно... если вдруг этого недостаточно, под Слой 2 подкладываем Слой 3, повторяющий контур Слоя 2. При этом прозрачность Слоя 2 сокращаем вдвое, и полученное значение (например 10%) выставляем Слою 3.
А еще лучше делать закругления "прямыми" окружностями, а не овалами +)