前198年（西汉吕后二年），在桂阳郡南部分出桂阳县（即今连州）。

西汉

汉元鼎六年（前111年
，汉武帝刘彻灭南越国，原属南越国的粤北地区被分归入扬州刺史部豫章郡南野县，和荆州刺史部的桂阳郡，其中桂阳郡的阳山县、浈阳县、含洭县、曲江县，是南越国的故地。

汉代荆州刺史部-桂阳阳山含洭曲江浈阳五县在其桂阳郡南部

东汉在桂阳郡设始兴都尉，辖阳山、桂阳、曲江、含洭、浈阳五县。

三国吴建安五年（公元200年），豫章郡分置庐陵郡，南野县属庐陵郡。三国吴嘉禾五年（公元236年），析庐陵郡置庐陵南部都尉，南野县属庐陵南部都尉。三国吴永安六年（公元263年）春，析庐陵南部都尉南野县南乡地设定始兴县（治所大概位于距韶关不远的大桥镇一带）。后再从始兴县分置斜阶县（位于今始兴）。

东汉

汉代扬州刺史部-今南雄始兴县地在其豫章郡南野县西南部

东汉交州刺史部-中宿县在其南海郡北部

三国

吴甘露元年（公元265年）冬，析含洭县桃乡置阳山县，进以桂阳郡始兴都尉置始兴郡。下辖始兴（约今之南雄、大余两地）、斜阶、桂阳、阳山、含洭、浈阳、曲江、中宿（原属南海郡）8县，属于荆州管辖，治所在曲江县（今广东韶关市东南莲花岭下）。

晋废斜阶县入南野县。

西晋太康元年（公元280年）三月始兴郡划归广州管辖。

西晋永嘉元年（公元307年）分荆州地置湘州（州治在今湖南省长沙市），始兴郡改属湘州。

东晋鹹和三年（公元328年）废湘州，属荆州，郡治迁往东南十里官滩（今浈江区南郊五、六公里）。

西晋

刘宋曾设小桂郡（大概在连州一带）。

公元452年（宋元嘉二十九年）始兴郡改属广州。

公元453年（宋元嘉三十年）始兴郡复归湘州。

南朝齐-湘州

公元467年（宋泰始三年）改浈阳县为贞阳县。

公元470年（宋泰始六年）在贞阳县西60里置冈溪县，始兴郡分出桂阳、阳山、含洭三县，与冈溪县组成宋安郡。

公元472年（刘宋泰豫元年）改称广兴郡，省冈溪县和宋安郡。

公元479年（南齐建元元年）贞阳县复名浈阳县，广兴郡复名始兴郡，属湘州。

南朝齐（479年至502年）时，从曲江县分置仁化县（县治在今仁化县境走马坪北20里的恩溪扶溪合流处）。以斜阶县地置令阶县（治所在今广东始兴县西七里）。

梁天监年间（公元503年）分始兴地置安远县。

南北朝-宋

梁天监五年（公元506年）置广德县（今连山），四月令阶县改名为正阶县。

梁天监六年（公元507年）在含洭县置衡州和阳山郡，衡州辖阳山郡（辖含洭、阳山、桂阳、广德四县）、始兴郡，在中宿县地置清远郡，辖中宿(今清城、清新)、威正、廉平、恩洽、浮护（今佛冈县中南部）5县(后4县县治不详)，隶属广州。

梁天监七年（公元508年）分曲江县西北境置梁化县。

梁天监十七年（公元518年）分梁化县置平石县。

梁大同元年（公元535年）衡州分作东衡州、西衡州，东衡州治所在曲江，辖始兴郡。

梁大同二年（公元536年）正阶併入始兴县。

梁大宝元年（公元550年）南康郡地大余（今赣州市大余县）改属东衡州始兴郡。

公元552年至公元553年（梁承圣元年至二年），析浈阳县东部立翁源县，属清远郡。以始兴郡增置东衡州（治在曲江），始兴郡属东衡州。

梁末陈初，一度废东衡州，始兴郡改属衡州（州治在今英德县）。

陈天嘉元年（公元560年）复置东衡州，始兴郡隶属东衡州。

陈太建十三年（公元581年），大余改隶东衡州安远郡。

南朝梁朝至唐垂拱三年（502年至687年），撤销仁化县，併入曲江县。

陈永定元年（557年），改安远县为安远郡，隶属东衡州，即韶州。

南北朝齐

梁大同二年（536年），正阶併入始兴县。

梁元帝承圣中元年至四年（552—555年），分始兴地置安远县。

公元560—566年（天嘉年间），改衡州为西衡州，治仍在含洭县，含洭县属西衡州阳山郡，浈阳县仍属东衡州始兴郡。

隋开皇九年（公元589年）废始兴郡，改为东衡州，不久又改为韶州（州、县治所回迁莲花山）。废安远郡置大庾县，隶属广州总管府始兴郡。（按：《隋书》是年省诸郡，于始兴郡置广州总管府，统县十六，始兴在焉。），此为大余建县之始。

隋开皇十一年（公元591年）韶州废，入广州。

隋开皇十二年（公元592年）废平石县入梁化县。

隋开皇十六年（公元596年）废始兴郡，大庾县改为大庾镇入虔州南康县。

隋开皇十八年（公元598年）改梁化县为乐昌县（因县内有乐石、昌山而得名），直属韶州。

隋朝大业三年（公元607年），属南海郡。

初隶属广州管辖。

唐武德四年（公元621年）在韶关地区置番州，隶番州，未久番州改称东衡州。

唐贞观元年（公元627年）改东衡州称韶州，隶属于岭南道。

光宅元年（684年），析始兴县北界的化南、横山两乡置贞昌县（今南雄县）。

唐天宝元年 (742) 改韶州复置始兴郡，治所曲江县 (今广东韶关市西一里武水西)。

乾元元年 (758) 复为韶州。