это, конечно, совершеннейший оффтопик...
dll это бинарный файл, его прямо так, в некоем редакторе, не открыть
грубо говоря, он содержит функции, которые можно использовать, подключив dll
так что дело тёмное, даже не программистское, а хакерское
нужно дизассемблировать программу каким-то дизассемблером и потом выполнять вот этот код по шагам в каком-то дебаггере, найти где творится что-то не то, исправить...
тёмное дело, в общем. этим серьёзно надо заниматься.