唐蕃時期，古玉就有歷史記載。

明朝洪武四年（1371年），帕竹政權的釋迦堅贊當政后，在此設宗，宗址設在科麥（今塔巴寺附近）。

明崇禎十五年（1642年），甘丹頗章地方政權建立后，西藏地方政府在此設桑昂曲宗（宗址未變）。

清康熙五十九年（1720年），因此地距拉薩較遠，交通不便，劃歸駐昌都的帕巴拉呼圖克圖管理。

雍正年間，桑昂曲宗重歸西藏地方政府管轄，并設有三個“協伍區”和四個直屬“得卡”，古玉為桑昂曲宗直接管轄的古玉三級直屬得卡。

雍正三年（1725年），雍正皇帝將此地交給七世達賴喇嘛作為香火地。

喝廈時期，古玉為桑昂曲宗管轄的古玉三級直屬得卡，后改劃昌都“薩翁”領導管轄。

1951年9月，成立桑昂曲宗解委會，下設察瓦龍、竹瓦根、林嘎、察隅4個分會，古玉屬竹瓦根分會的一部分。

1962年，成立古玉區（從竹瓦根區劃出）。

1972年，改公社。

1978年，復置區。

1987年，改鄉。