Opera
Всегда последняя (финальная) версия (сейчас 9.25)
opera-usb.com/

==================================

Сайт portableapps.com
ClamWin Portable (antivirus)
Mozilla Firefox - Portable Edition (web browser)
Gaim Portable (instant messaging)
OpenOffice.org Portable (office suite)
Sudoku Portable (puzzle game)
Mozilla Sunbird - Portable Edition (calendar/task manager)
Mozilla Thunderbird - Portable Edition (email client)

При этом все приложения можно закачать по одному, а можно сразу в одном архиве и с оболочкой для запуска. (архив всего 89.6МБ, распакованый 337Мб)
Скачать архив

Ссылки на другой портабельный софт на этом же сайте(43 приложения):
portableapps.com/apps

==================================

Http File Server
Все в названии - hhtp сервер, предназначеный для передачи и приема файлов, но можно использовать и в других (обычных http) целях. Маленький - 550Кб.
rejetto.com/hfs/