Вот еще мои идеи, на которые я частично собирался обратить внимание этим летом:
1) написать ring0 отладчик
2) написать виртуальную машину, в идеале с частичным исполнением кода на самом процессоре и частичной эмуляцией (можно и с полной эмуляцией)