伽勒出生于今萨克森-安哈尔特拉迪斯,1830年至1833年间就读于柏林大学,1835年时成为天文学家恩克的助理,于柏林天文台工作。1846年9月23日,伽勒正式宣布他发现海王星,1851年移居布雷斯劳,担任布雷斯劳大学天文学教授并负责当地天文台观测工作。
除发现海王星外,伽勒也研究观察彗星,1894年时在他儿子协助下出版了彗星列表,一共收录414颗彗星。他本人也曾在1839年12月至1840年3月短短3个月间发现了三颗彗星。
1910年逝世于波茨坦,享年98岁。
为记念伽勒的贡献,国际天文联会将月球和火星各一个撞击坑和海王星的环以伽勒之名命名。