1. Попробуйте тип антиалайзинга поставить Митчел-нетравали (думаю, у вас Катмулром стоит)
2. Есть галка "субпиксел маппинг" - попробуйте ее тоже поставить (там, где колор-маппинг задаете).
У меня такая проблема была, потом новый врей поставил, больше как-то не замечал. Проблему давил взвинчиванием параметров антиалайзинга. Результат был не очень значительный и времени уходило намного больше.