Для того, чтобы это было осуществимо средствами WINAPI - надо (в самом простом варианте/случае):
- Создать окно средствами QTable.
- Чтобы оно не потерялось - обозвать его с помощью Caption. Потом найти окно в системе с таким заголовком и по нему хендл и, возможно класс...
- Потом, с помощью переопределения оконной процедуры (SetWindowLongPtr и т. д. и т. п.) - уже творить с ним, что заблагорассудиться. НО!!! Из-за такой "затеи" - абсолютно непонятно как это будет сочетаться с квиком и привязкой к вкладкам, а также на реакцию на оконные сообщения Windows бо как у нас ещё в памяти таким образом создастся совершенно не нужный объект - тот самый QTable да ещё с непонятным поведением и свойствами
таким образом, хотелось бы более "чистый" вариант от разработчиков.