С system("start notepad.exe") нормально работает. Так что не в этом проблема. ДУмаю, что я не правильно задаю значение переменной to_run