五年,朝廷欲乘石虎新死荡平关河,以浩任都督扬、豫、徐、兖、青、五州军事,统军进取中原。九年,浩趁前秦内乱之际,自寿春(今安徽寿县)率大军北伐前秦,以姚襄为前锋。浩至许昌(今河南许昌东),会征西将军谢尚兵败,浩退还寿阳,整军复进,襄怀恨浩谋图己,乃伏甲山桑(今安徽蒙城北),纵兵击之,浩军大败,弃辎重,退保谯城(今安徽亳州),兵械军储皆为襄所获。
桓温与殷浩有隙,及闻其败,上疏指责浩连年北伐败绩,粮械尽失,反以资敌,请罪之。帝遂废浩为庶人。