Как вариант можно попробовать подрубить через ActiveX и тому подобные хрени флешку, которая будет всё делать. потому как во флеше довольно хорошо всё реализовано. Тут уже достаточно будет поглядеть как реализованы видеочаты