там же есть инструкция даже
1) скопируйте в корневую директорию MAXA vrlserver.exe
2) посте скопируйте VRFLServer.ini в директорию c:\program files\common files\ChaosGroup
3) запустите vrlserver.exe из корневой директории МАКСА, запускайте только после того как скопируете VRFLServer.ini иначе работать ничего не будет
4)запустите МАКС, нажмите F10 и выберете рендер VRAY, там вас попросят ввести имя компьютера или IP адрес накотором запущен VRLServer.exe впишите туда имя своего компа ну или IP адрес
5) перезапустите МАКС
у меня после етого заработал.