Основная идея - reverse engineering, декомпиляция бинарника с кодами виртуальной LUA-машины в псевдоисходный код.
Можно найти несколько декомпиляторов разной степени паршивости и документацию на инструкции виртуальной машины. Добавить что-то самописное.
Занятие трудоемкое, итеративное. Много ловушек и находок, но добиться стопроцентного восстановления можно. Пробовал на паре программ в несколько тысяч строк.
Скорее всего - занятие для немногих, почти как детективное расследование.