上海街因身后的位于众坊街的油麻地警署而曾定名为差馆街,并于1898年11月12日以警署为中心分成南北两段,直至1909年3月19日把全段易名为上海街。
上海街当弥敦道还没发展时,上海街是当时主要的营商地点,但只剩下一些售卖中国传统有关的商店,如裙褂店、风水相关的店。