В принципе, div можно обозначить как [x/y], естественно, упомянув, что означает эта запись. А mod встречался мне в теории чисел (сравнение по модулю), но это немного не то. Можно ввести свое обозначение mod, например, {x/y} или <x/y>. Однако, математика - наука строгая, и проверяющий вашу лабу может задать справедливый вопрос - откуда вы взяли такое обозначение