Это всё звучит красиво, но на практике не всё так гладко. Много моделей просто виснут или тормозят даже на M1, особенно если пытаться запустить что-то побольше. Core ML помогает, но пределы железа сильно ограничивают — про серьезные модели типа GPT-3 вообще забудьте. Так что локальная нейросеть — это больше для экспериментов, а не для реальной работы.