Словосочетание «федеральный бюджет» следует писать с маленькой (строчной) буквы.
Дума утвердила федеральный бюджет.
С большой (заглавной) буквы написание возможно если словосочетание является начальной фразой предложения или начальными словами в заголовках, наименовании отделов, входящих в состав департаментов.
Федеральный бюджет окончательно утвержден.
В конкретных уставных документах может быть зарегистрировано написание с большой буквы. В этом случае стоит использовать прописную букву.