Хм...судя по выводу массива,пересчитал сумму всех вложенных массивов у меня получилось 13(4 в первом случаи и 9 во втором)
аа...почитал немного вкурил..что-то сразу не понял...
Тогда тут вроде алгоритм не так составлен, или второй варинат - я сново не вкурил

------------
|***|##|
|***|##|
|***|##|
|#####|
|#####|
------------
Тебе какую область нудн получить? */#?
если * то в данном случи у нас полуится 2*2=4
|***|
|***|
|***|
если # то - (3*3)-(2*2)=5
------------
|##|
|##|
|##|
|#####|
|#####|
------------
9 никак не получается,только есть взять площадь большего прямоугольника.
13 получается при сложении...
------------------
|#####|***|
|#####|***|
|#####|***|
|#####|
|#####|
-------------
Какой тебе вариант нужно получить?(конечно можно еще перемножить их и т.д.)