void main ()
{
float x,y;
printf("\n введите значение X");
scanf("%d",x);
printf("\n введите значение Y");
scanf("%d",y);
тут надо ввести формулу, которая будет определять, выпуклый или нет
if бла бла esle тоже не знаю что писать
}