早在一萬多年前，郴州一帶就有原始人在這塊土地上繁衍生息。
“郴”字獨(dú)屬郴州，最早見于秦朝，郴州有文字可考的歷史，已有兩千余年。自秦代以來，一直為郡、州、府、縣的治所。
中華民國元年（公元1912年），廢府、州，存道、縣。次年9月，郴州直隸州改為郴縣。
中華人民共和國建立初，原由衡陽專區(qū)代管。1949年11月25日，成立郴縣專區(qū)。
1952年月11月13日，郴州、零陵、衡陽3專區(qū)合為湘南行政區(qū)。
1954年7月6日，撤銷湘南行政區(qū)，改設(shè)衡陽與郴縣兩個(gè)專區(qū)，郴縣專區(qū)增轄新田、耒陽、安仁、酃縣，共計(jì)14縣，111個(gè)區(qū)，21個(gè)鎮(zhèn)，1764個(gè)鄉(xiāng)。
1958年8月，設(shè)縣級郴州市，專區(qū)仍轄14縣，136個(gè)人民公社，12個(gè)鎮(zhèn)，1403個(gè)大隊(duì)，33個(gè)居委會(huì)，14813個(gè)生產(chǎn)隊(duì)，321個(gè)居民小組。
1960年7月18日，改郴縣專區(qū)為郴州專區(qū)。
1961年6～7月，恢復(fù)原縣市建制，并析資興縣地置東江市。
1962年月12月，撤銷東江市，劃藍(lán)山、新田歸零陵地區(qū)。郴州專區(qū)轄12縣、市，12個(gè)鎮(zhèn)，293個(gè)鄉(xiāng)。
1963年5月20日，撤銷郴州市，仍為郴縣縣級鎮(zhèn)。
1967年3月8日，專區(qū)改稱地區(qū)。
1988年，郴州地區(qū)轄2市9縣，39個(gè)鎮(zhèn)、209個(gè)鄉(xiāng)（其中5個(gè)民族鄉(xiāng)）、5個(gè)街道辦事處，2950個(gè)村、130個(gè)居民委會(huì)會(huì)，30387個(gè)村民組。
1995年撤地建市至今。
