Компилятора, vb, под рукою у меня нету, да и не писал я никогда в нём)) но кажись дело и вправду в ByVal попробуй его замени на Integer

Function check(ByVal num As Integer)
Label1.Text = Label1.Text + num.ToString
Return 1
End Function
Вот попробуй...