"А он со скругленными ребрами нормально работает?"-Всё зависит от углов,чем более "острее" угол тем более заметен эффект АО.При "тупых" углах АО менее заметен.C cкруглёнными углами АО может не работать.От себя добавлю,очень удобно "пропускать" АО через карту Output ,можно при помощи кривых настраивать форму затухания и их насыщенность.Для внешних рёбер существует Round Corner.
"В ментале 3.10 не нашел параметра для инверсии аошки. Reflective делает отражения на AO."-А что мешает поменять местами цвета с белого на чёрный .