同治十二年(1873年),曾作为钦差大臣重审轰动一时的杨乃武与小白菜一案,胡瑞澜作出了维持原判,后和包括浙江巡抚杨昌浚在内的一大批官员因此案而遭革职查办。
所著传世的作品有《读史日抄馆课诗赋》、《湘帆杂咏》、《越吟草》、《星轺杂纪》、《星轺续纪》、《海槎日记》、《海槎续记》、《训士质言》、《教士申约》、《教士隅说》等。