曾任解放军某部战士、军务处文书,北京市城建五公司工人,北京市民政局军退办干部,石景山区民政局干休所党总支书记、所长,北京市委办公厅综合处干部、副处级调研员,北京市委城建工委办公室副主任,北京市委宣传部办公室副主任,北京市委政法委办公室副主任、正处级干部,首都综治委办公室主任助理、副主任,北京市崇文区委副书记,北京市崇文区委副书记、区人民政府党组书记、区长。
2010年08月,任北京市东城区委副书记、区人民政府区长。
2013年11月,任北京市石景山区委书记。
2018年01月,任北京市政协副主席,石景山区委书记。
2018年04月至2020年08月,任北京市政协副主席、党组成员。[1]
2020年08月至2022年01月,任北京市政协副主席、党组成员,北京市社科联主席。[1]
2022年01月,北京市社科联主席。
十一届、十二届北京市委委员,党的十九大代表,北京市第十五届人民代表大会代表(2018年12月终止)。
2016年12月8日,中共北京市石景山区第十二届委员会第一次全体会议上,牛青山当选中国共产党石景山区第十二届委员会常委、书记。
2018年1月28日,政协北京市第十三届委员会第一次会议选举牛青山为政协北京市第十三届委员会副主席。[2]
2018年4月,中共北京市委决定:牛青山不再担任中共北京市石景山区委员会书记、常委、委员职务。[3]
2022年1月9日,政协北京市第十三届委员会第五次会议第三次全体会议通过,牛青山不再担任副主席。[1]