最早修筑长城是从战国时期就开始的，可以上溯到2200多年以前。那个时候已形成了一些大城市，例如秦国的咸阳、赵国的邯郸、燕国的涿、魏国的大梁等。
起先，为了防止来自北方的突然袭击，各诸侯国在北部修建了长城。后来，各诸侯国之间也筑起了长城，进行自卫。保存到今天的有燕、赵、魏、齐各诸侯国长城的遗迹。
秦始皇灭六国，建立了中国历史上第一个中央集权封建制的大帝国。为了防御匈奴，秦始皇把燕、赵、魏各诸侯国的长城连接起来，用30万人力连续修了10多年，这项工程才初步完成，这就是历史上有名的万里长城。