曾和黄乃裳创办《福报》,鼓吹革命。
清光绪二十九年(1903年),林森等在上海创立“旅沪福建学生会”,祖荫为主要骨干。后在福州与林泽人、郑权、蔡毅等设“益闻社”、“藤山文明社”,创“桥南公益社”,作为联络革命志士和各山堂首领的场所。
光绪三十一年(1905年),秘密组织“汉族独立会”,被举为会长。次年夏,同盟会福建支会成立,祖荫任会长,同林泽人又创立“丙午俱乐部”、“闽南救火会”等革命组织。
宣统三年(1911年)春,林觉民、李恢先后奉同盟会命令回闽召集同志赴粤发难,祖荫在闽筹划响应。起义失败后,祖荫做分化、瓦解清军工作,争取新军标统许崇智、统制孙道仁加入同盟会。武昌起义,全国响应。
九月十八日(11月9日)晚上,福州发动武装起义。次日,获得成功。祖荫被推为参事员,组成全省最高议事机关参事会。
民国元年(1912年),建立福建政务院,祖荫任副院长。随后,祖荫以民国成立,初志已成,通电辞职。临时大总统孙中山复电慰留。同年10月,改任中央参议院参议员。当时发生新议员反对旧议员之争,祖荫愤而辞职,致函京、津、沪各报,切劝议员风雨同舟,和衷共济。次年4月,任闽都督府秘书长。袁世凯窃国,祖荫于10月被捕,不久获释,遂致力于地方教育及禁烟事业。
民国6年8月,军阀李厚基任闽督军,祖荫被迫出走广东。次年,任靖国军方声涛总指挥部秘书,转战潮、汕、诏安一带。
民国9年12月,受林森之请,参加广州国会非常会议,任秘书厅秘书。民国11年,被聘为福建省长公署秘书。北伐胜利后,就任福建省建设厅秘书,历任国民党福建省党部设计委员、执行委员、监察委员等职。
民国26年,兼任福建省社会军事训练委员会指导员、福建省临时参议会参议长。后病逝于永泰。