周朝以来建藩建国的封建制度,与皇权专制和统一国家是不相容的,所以必须加以改变.始皇二十六年（前221年）,丞相王绾请封诸皇子为燕、齐、楚王,得到群臣的赞同.廷尉李斯力排众议,主张废除分封诸侯的制度,全面推行郡县制度.秦始皇接受了李斯的建议,把全国分成三十六郡,以后又陆续增设至四十余郡.这些郡完全由中央和皇帝控制,是中央政府辖下的地方行政单位.中央集权的制度从此确立.始皇二十八年（前219年）的峄山刻石辞说：“追念乱世,分土建邦,以开争理”；“乃今皇家,壹家天下,兵不复起”.这说明秦始皇认为废分封行郡县是消除各地兵争所必须的.
秦始皇以战国时期秦国官制为基础,把官制加以调整和扩充,建成一套适应统一国家需要的新的政府机构.在这个机构中,中央设丞相、太尉、御史大夫.丞相有左右二员,掌政事.太尉掌军事,不常置.御史大夫是丞相的副贰,掌图籍秘书,监察百官.丞相、太尉、御史大夫以下,是分掌具体政务的诸卿,其中有掌宫殿掖门户的郎中令,掌宫门卫屯兵的卫尉,掌京畿警卫的中尉,掌刑辟的廷尉,掌谷货的治粟内史,掌山海池泽之税和官府手工业制造以供应皇室的少府,掌治宫室的将作少府,掌国内民族事务和外事的典客,掌宗庙礼仪的奉常,掌皇室属籍的宗正,掌舆马的太仆等.丞相、太尉、御史大夫与诸卿议论政务,皇帝作裁决.
地方行政机构分郡、县两级.郡设守、尉、监（监御史）.郡守掌治其郡.郡尉辅佐郡守,并典兵事.郡监司监察.县,万户以上者设令,万户以下者设长.县令、长领有丞、尉及其他属员.郡、县主要官吏由中央任免.县以下有乡,乡设三老掌教化,啬夫掌诉讼和赋税,游徼掌治安.乡下有里,是最基层的行政单位.里有里典,后代称里正、里魁,以"豪帅"即强有力者为之.此外还有司治安、禁盗贼的专门机构,叫做亭,亭有长.两亭之间,相距大约十里.
