fOrigin - координаты откуда стреляешь

fTarget - куда стреляешь

fCenter - смещение относительно центра

Как получить ближайшего - делаешь цикл от 1 до 1000 например(это иды в сампе), пытаешься получить по ним хэндл игрока, если получилось - получаешь координаты игрока. Готовых ф-ций для вычисления расстояния не знаю, но впринципе самому написать несложно