光山是一块古老的土地。远在新石器时代就有了人类居住，有文字可考历史4000余年。在周时为弦子的封国，称弦国，故有“弦山”之称。战国时属楚地。秦属九江郡。西汉置西阳县，属江夏郡。南北朝文帝元嘉中期置光城郡。公元598年（隋文帝开皇18年），更光城为光山，光山之名自此始。清雍正年间，光州直隶河南布政使司，领光山、息县和商城，光山为首县。民国时期，属河南第九行政区管辖。境内黄君墓遗址、古汉墓群遗址等文化遗迹、遗址300余处，见证着这里悠久的历史。