云南右卫军家子,弘治十八年(1505年)进士,任南京吏科给事中,多有政绩,死于狱中,赠光禄少卿。其先祖当为元末从吉州避往云南省,有可能是毛太华之后,因毛太华迁湘时,只有两个儿子随往。
明弘治十八年(1505年),毛玉考中进士,初任行人司行人。正德五年(1510年),升任南京礼科给事中(谏官,当时称“给谏”)。此时,武宗信任太监,朝政污浊,盗贼四起。毛玉上疏弹劾华盖殿大学士焦芳、文渊阁大学士刘宇,指出焦、刘二人祸国殃民,“请显戮,以谢万姓”。为了防备战乱,他又建议加强南京防务。不久,焦、刘相继罢官,南京因戒备森严,“盗不敢犯”。此外,他所弹劾的还有四十余人,所论皆较客观恰当。
毛玉后来改任吏科给事中,与杨慎同为僚友。1522年,世宗接位,受宠信的内监日益骄横。毛玉再次不畏权势,上疏劝皇帝“戒嗜欲,杜请托,以破侥幸之门,塞蛊惑之隙”。奉命审讯受叛王宸濠牵连的多起冤案时,他详加调查甄别,使许多受牵连者得到解脱。他还建议,禁止地方官员与藩王来往。同年,永昌(保山)恢复设府,毛玉汲取以往武官骄横、贪婪的历史教训,上疏建议加强知府权力,防止监军内监和武官不听约束,以安定边疆。这些建议均被朝廷采纳。
嘉靖三年(1524年)四月,朝中“议大礼”之争已到白热化程度,毛玉属反对皇帝遵生父为“皇考”的一派。七月,一次朝散,毛玉和群臣跪于皇宫左顺门前哭谏,世宗严令“廷杖”,结果,16人被打死,134人被逮人锦衣卫狱。毛玉被打得皮开肉绽,死于狱中。死后穷至无钱装殓的地步。
隆庆元年(1567年),毛玉始得平反,追赠光禄寺少卿。
后人将他的奏章编为《琢庵奏议》全书十卷。