Действительно данное сочетание слов часто пишут тремя способами: слитно, раздельно, через дефис. Но правильно писать его только одним способом: физико-математический. Остается только разобраться почему это так.
В русском языке есть простое правило, если перед вами два равноправных прилагательных и между ними можно поставить союз «и» без потери смысла, то его всегда пишут через дефис. Мы можем спокойно без потери смысла написать «физический» и «математический».
Правильный ответ: физико-математический.
Примеры предложений.
Мой сын решил поступить в физико-математический институт.