Я представляю, как это должно выглядеть так:
есть сервер, у сервера есть специализорованное API, протокол обмена.
есть клиент (больше всего что какой-нибудь линукс, который использует стандартный клиент какой-нибудь)
Используется гугл-натив клиент (если это будет все-таки браузерное решение), следовательно мощностя сервера не напрягаются на максимум, основная и трудоемкая работа происходит на тачке пользователя (либо за это отвечает клиентское приложение).
Концепцию линуксовских репозиториев вполне спокойно можно применить и в ней, следовательно проблему установки софта можно частично решить.
Для использования же своих каких-либо самописек то можно их юзать чисто на своей тачке.
Из инусов можно отнести то что качество соединения должно быть охренетельным для нормальной работы, либо такая возможность должна быть предусмотрена в софте, возможность кэширования на стороне клиента. Вобщем как-то так, естественно что концепция не идеальна, но это мое видение того как это должно быть
Короче я это вижу скорее не как веб-ось, а как ОС для распределнных вычислений