1931年,参加少年先锋队。
1933年,参加东北人民革命军独立师。曾只身潜入牡丹江市伪满军营,将其军旗取下携回,从此以勇气而闻名。历任东北抗日联军第2军第6师警卫连机枪手、警卫连连长,抗联第1路军第2方面军第7团团长,是有名的神枪手。
1945年,随苏联红军参加对日作战,在攻打雄基—罗津要塞的万香岭战斗中,率领突击队爬上高地,炸毁了敌人的火力点和炮兵阵地,开辟了前进道路。日本投降后,以朝鲜工作团成员身份,在金日成同志率领下,跟随苏军返回祖国朝鲜。
1946年10月-1949年12月历任铁道旅军事副旅长、第四师军事副师长、内务省警备局第一旅旅长。
1950年任第五师师长。朝鲜战争爆发后,奉命率部沿东海岸进攻,由于担心伏击,花了很多时间对山脉侦察,加上美、英海空军的打击破坏道路,耽误了进程,7月17日赶到盈德时,开战初期被打垮的韩3师已重整旗鼓,因此陷入了三周的拉锯战:17日,五师占盈德;18日,韩军夺回阵地;19日,五师再占盈德;21日,阵地易手......8月9日,五师终于控制了盈德,死伤已过半。接着,在十二师的增援下,占领了浦项,韩3师只得从海上逃走。至8月20日,在海空军支援下,韩首都师、3师又击退了他们。9月初,人民军八师、十五师、17装甲旅也参加进攻,对方也增加了韩6师、8师、美24师。激战两周后,由于缺乏补给和伤亡惨重,人民军退回山中。仁川登陆后,五师由第二军团指挥在敌后游击。1951年,五师编入第四军团,负责西海岸防御。
1953年,吴白龙任第七军团副军团长兼参谋长。1958年任内务省护卫局局长。
1961年任内务省副相兼护卫局长。1962年起当选历届最高人民会议议员。
1963年12月起任民族保卫省副相。1967年晋升上将。
1968年12月起任中央人民委员会军事部长。
1969年任工农赤卫队总司令,晋升大将。1970年起任民族保卫省副相兼军团长。
1972年12月起任中央人民委员会国防委员会副委员长。
1961年9月和1070年11月连续当选为中央委员会委员。
1977年3月起当选党中央委员会政治局候补委员,同年10月当选政治局委员。
1980年10月当选为中央军事委员会委员。曾获共和国英雄称号。
1984年4月6日逝世。