Честно говоря - с фотон мапой не работал.
Если не критично, то лучше используй лайт кэш. Насколько можно судить из разного рода обзоров и уроков - он быстрее.
Настройки ИрМапы хорошие, единственное можно поменять Sample Lookup на Overlapping, чтобы немного быстрее рендер шел.
Значит, загвоздка у тебя скорее всего на вторичных отскоках ГИ - т.е. на фотон мапе.
Еще 2 фактора, которые могут еще давать такую зашумленность - это количество сабдивов на ВрейЛайте (оптимально 25-50 для гладких теней). Второй вариант - это Антиалиасинговый Семплер. Но так, как шум у тебя только в тенях, то либо врей лайт у тебя шумит, либо скорее - Фотон Мапа.
Попробуй замени ее на лайт кеш с такими настройками (только Number of passes поставь равным количеству ядер в процессоре):