Думаю, не стоит создавать для каждого альбома отдельную папку.
Можно хранить все картинки в одном месте, но с префиксами.
например:
http://site/img/album1_1_big.jpg
http://site/img/album1_1_small.jpg
http://site/img/album1_2_big.jpg
http://site/img/album2_2_small.jpg

Можно использовать папки big, small, как предлагали выше.
Для упрощения вида ссылок использовать mod_rewrite
Способ размещения файлов в каждой конкретной задаче можно реализовать по-разному, поэтому однозначного решения нет.