Для std::set нужны оператор сравнения для сортировки.

Решение - использовать std::unordered_set, или написать операторы сравнения(==;!=;