Пронумеруем мысленно монеты(или на бумаге)
00,01,02,03---04,05,06,07,---08,09,10,11
Взвешиваем шары по схеме:
11,10,04,01 <---> 02,06,09,08 // 1-взвешивание
07,08,00,02 <---> 11,06,05,04 // 2-взвешивание
11,10,09,08 <---> 03,01,06,05 // 3-взвешивание

Теперь найти аномальный шар проще:
Допустим результаты взвешивания были:
слева легче, равно, слева легче, то фальшивый может быть только 10 шар, который легче других.