У тебя все правильно, просто при компиляции на f5, студия пытается запустить скомпилированный файл, а ты компилил .lib файл, который не является исполняемым. Отсюда и ошибка о том, что его запустить нельзя. Тебе сейчас осталось только через студию создать plugin sdk проект и все должно работать