郡县制不是秦始皇首创，县制起源于春秋时期的楚国，楚武王熊通；郡制起源于秦国，秦穆公嬴任好；经过历代法家代表的改革，最终成型于秦汉时期。

郡县制下的郡守和县令都是由皇帝直接任免，从而使君主有效地加强了中央集权，有利于政治安定和经济发展；郡县制从根本上否定了分封制，打破了西周以来分封割据的状况，加强了中央对地方的管理，有利于防止地方割据分裂，有力地维护了国家的统一,为现代的行政区划划分提供了重要的历史参考。

秦汉以后，郡县的功能与范围大致不变，因为郡县作为地方政区，主要任务是劝课农桑、征收赋税、维持治安。“县”的名称一直沿用至今。郡一级的行政区划，唐宋多称“州”，明清多称“府”，但其性质相近。由于郡（州、府）数量太大，不便于朝廷管理，故而在郡（州、府）之上还编有更高一级的政区，东汉末年至魏晋南北朝是“州”，唐代为“道”，宋代为“路”，元、明、清为“省”。

自秦始皇在全国范围内推行单一的郡县制、中间经由汉武帝予以稳定，在两千多年的历史中，郡县制一直是中国古代国家的基石。在今天中国学界讨论的治理体系创新的议题中，郡县制仍然是可资解读的重要历史资源。