Попробуй погуглить: http://www.google.com/search?hl=en&q=ffmpeg+convert+avi+to+flv&btnG=Sear ch

А вообще, есть такая штука как YouTube Clone. Кажется, на форуме гдето обсуждали его