Максимальный размер файла
 

Как сделать, чтобы на указанный том нельзя было записывать файлы, которые больше определённого размера?

Поставить квоту на пользователя или ослеживать скриптом,который будет удалять файл если он больше опеределенного размера.

ТС имеет ввиду не один какой-то определенный файл а все

именно. хранящиеся на всём томе.

Или ещё такой вопрос: как запретить хранение файлов по формату?
win2003r2/расшаренная папка.

А какая разница,ставите квоту на пользователя и после превышения исследуете,что за файлы,а там уже удалять скриптом.
Если Windows 2003 EE R2,то там есть FSRM которое умеет делать ограничение на папки и на фильтр файлов.

а о FSRM можно подробнее?

File Server Resource Manager

докучу пару статеек.

http://www.netdocs.ru/articles/Configuring-Volume-Folder-Quotas.html

http://blogs.technet.com/filesandmore/archive/2006/05/31/431610.aspx

http://www.oszone.net/display.php?id=3967

Если не ошибаюсь, начиная с W2k3 R2 добавляя роль файл-сервера можно фильтровать доступ к шаре по имери/расширению и размеру (на счет размера не уверен)