确山，很早就有远古先民在浅山和平原地带生息繁衍。乐山东打石山，有旧石器时代人类遗址；曹庄、朱庄、橡林等地，有新石器时代文化遗址。迨至西周，县境北部为道国，东南一隅属江国。春秋属楚，秦属颍川郡。西汉高帝四年（公元前203年），置朗陵县，治所在今溱头河北岸的任店，属汝南郡。

公元前25年，县西北境建安昌侯国；公元前7年，东北境又建阳安侯国。东汉省安昌入朗陵。西晋时，复于西南置安昌县。南北朝时，随形势消长时南时北，县名、疆域与归属变更频繁。公元421年，南朝刘宋于县境建初安郡。528年、547年，南梁两次进据淮北，废初安郡，侨治陈州。北魏复占后，废州仍置郡县，改称安昌县。556年，北齐废郡县，侨治荆州。北周时，改为威州。隋初，废州复置安昌县，于583年迁县治于横列如屏、林壑清幽的盘龙山下，改名为朗山县。北宋大中祥符五年（1012年）因避讳改朗山县为确山县，因史载城南有泉入窦、声若搉米的确山而名县。元相沿未变。明初一度省入汝阳，洪武十四年（1381）复置，后送不变。元明清三朝均属汝宁府。民国初属汝阳道，后撤道，直属省辖。建国后，属信阳专区，1965年改属驻马店专区，至今不变。

2000年，确山县辖7个镇、11个乡。根据第五次人口普查数据，全县总人口553157人，其中：盘龙镇39945人、竹沟镇24542人、任店镇43886人、新安店镇23161人、留庄镇47529人、刘店镇47776人、蚁蜂镇19190人、三里河乡50337人、朱古洞乡25633人、胡庙乡36839人、石滚河乡18661人、瓦岗乡23254人、李新店乡22304人、双河乡27248人、杨店乡19078人、顺山店乡23486人、普会寺乡23893人、古城乡36395人。

2001年12月25日，经国务院批准（国函[2001]172号）将确山县的古城乡、朱古洞乡、胡庙乡划归驻马店市驿城区管辖；2009年12月25日，经国务院批准，将确山县蚁蜂镇划归驻马店市驿城区管辖。

2005年，确山县乡镇行政区划调整：撤销杨店乡，将其行政区域划归双河乡管辖，双河乡政府驻地不变；撤销顺山店乡，将其行政区域划归新安店镇管辖，新安店镇政府驻地不变。

2009年12月21日，经省人民政府批准，将确山县蚁蜂镇整建制划归驻马店市驿城区管辖（豫民行批[2009]47号）。

2012年7月1日，经省人民政府批准，确山县蚁蜂镇正式整建制划归驻马店市驿城区管辖；同时驿城区朱古洞乡管辖的老臧庄村、北泉村整建制划归确山县管辖。