中山国的前身是北方少数民族狄族鲜虞部落,为姬姓白狄,最早时在陕北绥德一带,逐渐转移到太行山区.姬姓是周王族的姓,白狄的来历,有说是周文王后裔毕万公的后裔,也有说是来自周文王封给弟弟虢叔的西虢国.西虢国历代国君世袭兼任周王朝卿士一职,同时有是三公之一,担负为周王朝南征北战、东讨西杀以惩罚不庭的任务,可能是周宣王时期虢国国君虢季子白北御猃狁,在内蒙古萨拉乌素河、榆溪河朔方城之后,其部分后裔就留在陕北了.鲜虞之得名出自鲜虞水,鲜虞水即今源出五台山西南流注于滹沱河的清水河,这一带是鲜虞最早的发祥地.鲜虞的名称最早出现在《国语》一书中.该书记载,周幽王八年（公元前774年）太史伯答郑桓公问话时谈到,成周雒阳四周有16个姬姓封国,6个异性诸侯国,还有“非王之支子母弟甥舅”的南蛮、东夷及西北的戎、狄国家或部落集团,其中就有鲜虞.
春秋时期的鲜虞部落联盟,由鲜虞、肥、鼓、仇由几个部落组成,逐渐开始扩张势力.公元前652年春,鲜虞出击邢国,次年又征伐卫国,邢君出逃,卫君被杀,齐桓公联合宋、曹、邢、卫诸国的兵力挫败鲜虞,才将邢、卫两国从灭亡中挽救回来.
春秋中后期,鲜虞的主要敌人是晋国,晋国采取了先吃掉鼓、肥、仇由等鲜虞属国,最后消灭鲜虞的战略.公元前530年,晋将荀吴借道鲜虞进入鼓都昔阳（今河北省晋县西）,但并未灭掉鼓.当年8月,晋灭肥（在今河北省藁城县一带）,俘国君绵皋,肥国旧地归属晋国.第二年冬,晋昭公得知鲜虞边境空虚,即以荀吴统率大军进,破鲜虞中人城（今河北唐县西北峭岭）.公元前527年秋,荀吴率军攻鼓,俘国君鸢鞮,使鼓成为晋的属国.六年后,鼓被彻底毁灭.
公元前507年秋,鲜虞出兵晋国平中,大败晋军,俘虏晋国勇士观虎,报了晋灭肥、鼓,占领中人城的一箭之仇.
公元前506年,鲜虞人在有险可守的中人城（今河北唐县西北粟山）建国.因中人城城中有山,故曰“中山”,这便是初期的中山国,中山之名始见于史书.《左传》记载：公元前506年春天,晋国拒绝蔡侯伐楚的要求,准备专心对付中山.公元前505年、504年,晋国两次进攻鲜虞中山,报“获观虎”之仇.此后对鲜虞中山国,史书中兼称“鲜虞”、“中山”.
公元前497年,晋国发生内讧后,中山从晋国的重压下获得喘息,开始介入列国纷争.
公元前494年,中山与齐、鲁、卫共同伐晋,取得晋国的棘蒲（在今河北赵县境内）,将之列入中山国版图.前491年,晋大夫荀寅因晋内乱逃奔鲜虞中山,荀寅原是中山的死敌,但此时中山为了削弱晋国,将荀寅接纳到新占领的晋国属地柏人（今河北隆尧县西）.为报复中山国,公元前489年春,晋大夫赵鞅“帅师伐鲜虞”,大破中山,这次进攻对鲜虞中山国的打击极为沉重,以至此后20余年间史籍对中山国没有只字记载.
其后,晋国又把矛头指向中山国的最后一个属国仇由,晋国的智伯（名荀瑶）诡计多端,唯恐仇由国路险难行,遂新铸大钟一口,诡称送给仇由国君,使仇由国“斩岸堙溪”以迎钟.仇由臣相赤章蔓看透了荀瑶的诡计,多次劝说国君,但仇由国君得钟心切,不听劝阻,七天之后仇由被灭.
外围扫清后,晋国开始进攻中山国本土.公元前459年至457年间,“荀瑶伐中山,取穷鱼之丘”（在今河北易县境内）.前457年,晋派新稚穆子伐中山,直插中山腹地,占领左人、中人（在今河北唐县境内）,“一日下两城”,中山国受到致命的打击.
公元前453年,韩、赵、魏三家分晋,晋国灭亡；前403年,赵、韩、魏被封为诸侯,形成秦、齐、楚、燕、赵、韩、魏战国七雄争霸的局面.中山国在这个动荡的年代,开始了复兴.
前414年,中山武公率领他的部落离开山区,向东部平原迁徙,在顾（今河北定州市）建立了新都.武公仿效华夏诸国的礼制,建立起中山国的政治军事制度,对国家进行了初步治理.但武公不久即去世,桓公即位,桓公年幼无知,不恤国政,因此遭到魏国的进攻.魏国派遣乐羊、吴起统帅军队,经过三年苦战,于前407年占领了中山国,魏文侯派太子击为中山君,三年后又改派少子挚,后来击被立为魏国国君,就是魏武侯.中山国的残余退入太行山中.
中山被灭后,桓公经过20余年的励精图治,积蓄力量,终于在公元前380年前后重新复兴了中山国,定都灵寿（今河北平山三汲附近）.
复兴后的中山国位于赵国东北部,把赵国南北两部分领土分割开来,因此成为赵国的心腹之患.赵国在公元前377年、376年曾两次进攻中山国,均遭到中山的抵抗,没有成功.此后,中山国开始修筑长城.《史记•赵世家》记载：“赵成候六年（公元前369年）,中山筑长城.”考古工作者曾在顺平、唐县等地发现了土石混筑的战国中山长城,长城高处约有3米,宽0.5-2.5米,做法是两侧挖地基,砌石块做边墙,中间用土和碎石填充.另据专家推测,中山长城可能在中山国西北边界,沿今唐县、曲阳、行唐、灵寿、平山、石家庄西南的太行山南下,止于邢台西北.296年,赵灭中山国,将王尚迁徙到肤施,中山国自春秋末期立国,经过200余年时间,宣告灭亡.
中山国灭之后,其后人后来被秦国迁放太原,后逐渐由太原南迁,分散于湖南、湖北、江西等地,并改姓为“易”,“易”姓为中山国王族的直系后代.
