Получить положение курсора можно. Причем, по-моему двумя способами (давно не делал). Через так называемые windows-messages (сообщения окон). Изучите тему и примеры. Они не про Квик, а про системное программирование в Windows вообще.
В рамках операционной системы windows это возможно и надо заранее выяснить хендл открытого графика окна в окне квика ("вложенные", как известно). Смотрится в специальной программе Spy++, там можно понять идею.
Это тоже самое, как получить точные координаты курсора по кликнутой кнопке. Любая кнопка это окно.
Как известно, в windows всё окна, даже кнопки, списки и полосы прокрутки. А не только видимые "окна", которые можно закрыть и свернуть. И в рамках конкретного окна графика можно получить данные о курсоре.
На C++ программе это будет сделать проще и правильнее всего. Это самый базовый и простой путь. Найдёте примеры.
Возможно и на C#, но это будут костыли изначально, по сути гигантская обертка вокруг С++.
Другой вопрос, зачем вам это надо, как вы будете это обрабатывать потом в Lua и зачем.
Тут надо не фантазию вперед ставить с вопросом "что я хочу", а изучить все варианты предлагаемого API (в данном случае это Lua и его взаимосдействие с С) и получать ответы исходя из вопроса "что из того, что я бы хотел можно реализовать предлагаемым методами, как именно реализовать хотя бы в первом приближении, и что с этим делать дальше".
А дальше спросить себя "а есть ли другой путь, исходя из предлагаемых программных методов"? Обычно есть еще один и не более. Но чаще нет.