北魏太和中,置涡州。景明中,改置涡阳郡。梁大通元年(527 年)冬十二月庚戌,入梁。十一月,梁置西徐州。太清元年(547 年)正月,侯景叛东魏,东魏取置谯州,治涡阳城(今安徽蒙城县城关镇涡河北岸香山乡姜楼刘寨村)。魏亡(550 年五月),入北齐。北齐亡(577 年二月),入北周,仍治涡阳。初领可考4 个郡,8 个县。周末,改治卩城,领3 个郡,5 个县,全在安徽境内。隋开皇二年,废郡,县改属谯州。
隋末,群雄侨置。此州侨于临涣(今安徽濉溪县临涣镇),领临涣、永城、山桑、蕲4个县,在安徽境内设3个县。贞观十七年(643),废谯州,以临涣、永城、山桑3个县改属亳州;蕲县改属徐州。