fOrigin - координаты откуда стреляешь
fTarget - куда стреляешь
fCenter - смещение относительно центра

Как получить ближайшего - делаешь цикл от 1 до 1000 например(это иды в сампе), пытаешься получить по ним хэндл игрока, если получилось - получаешь координаты игрока. Готовых ф-ций для вычисления расстояния не знаю, но впринципе самому написать несложно