Мощной техникой является наследование(taint analysis) данных. Приложение рассматривается не как кучи кода и апи, а как наследование набора исходных данных, например...
SYSTEM_OBJECT_INFORMATION.HandleCount для обьектов, созданных на этапе инит. процесса наверно покажет наличие скрытых процессов. Может быть трудность с указателями на обьекты aslr
Нет никакого смысла в прямых сисколах. Можно взять оригинальную кодовую секцию ntdll/user, что делает ненужным лезть во всякие тяжкие интернал, изменяющийся в версиях.
Так все же статик или динамика ?
Статик не выполняется эмуляция, открытых имен нет, соотв. на них не сработает эвристика. В динамике как только будет выбран первый байт с адреса апи на...