Сочетание "с одной стороны" может в разных высказываниях функционировать или как устойчивое, или как свободное. Постановка знаков препинания, выделяющая оборот "с одной стороны", будет зависеть именно от этого. В случае устойчивости сочетание становится в предложении вводным. Если устойчивость отсутствует - сочетание будет невводным.
Вводный оборот "с одной стороны" указывает в предложении на порядок или на способ изложения мыслей (Тут можно посмотреть полный список вводных слов в русском языке). В этом случае слово "сторона" подразумевает не какой-то физический участок, часть света или территорию. Имеется в виду аспект вопроса, способ подхода к проблеме. Оборот в таком значении будет выделен запятыми с двух сторон.
Мы можем встретить в предложении сочетание "с одной стороны", когда оно участвует в содержании, в смысле высказывания. Нужно почувствовать, что одна сторона, о которой пойдёт речь, будет подразумевать не грани обсуждения, а нечто физическое. Например, стороны есть у домов, улиц, мебели. Запятые при таком значении не ставятся.
Читайте по теме: Список ложных вводных слов, которые при всем желании не следует выделять запятыми, можно увидеть тут.
Примеры предложения:
Наталье хотелось, с одной стороны, продолжать свою работу, но с другой - она была для неё тяжела.
С одной стороны школы росли каштаны, которых было несколько десятков.