Чтобы написать верное окончание, нужно определить склонение. Существительные, оканчивающиеся на -а или -я, относятся к первому склонению. Слово "математика" - это существительное единственного числа женского рода первого склонения.
В дательном и предложных падежах существительные первого склонения всегда нужно писать с -е. Поэтому писать "по математики" орфографически неправильно в любых случаях. Исключения для первого склонения составляют только слова, оканчивающиеся на -ия (армия, Мария, гвардия). В этих словах всегда пишется окончание -и.
Вот несколько примеров правильного написания интересующего нас слова:
Виктория сдала экзамен по математике на отлично.
Тестирование по математике перенесли на следующую неделю.
Репетитор по математике требуется всем, кто хочет сдать экзамен успешно.
Сложно запомнить все правила по математике наизусть.
Домашнее задание по математике Иван решил выполнить позже, так как оно вызывало некоторые затруднения.