秦代
秦始皇二十六年（前221年），秦吞并六国，统一天下，建立了中国历史上第一个统一的多民族的中央集权制国家。为了维护和巩固空前统一的大帝国安全，秦始皇陆续采取了一系列国防建设和边防守备的重大战略措施，其一就是大规模修建万里长城。秦始皇三十二年（前215年），大将蒙恬率30万大军北击匈奴，取河南地，其后筑起“西起临洮（今甘肃山尼县），东止辽东（今辽宁省），蜿蜒一万余里”的长城。自秦始皇筑长城之后，始有万里长城之称。
秦始皇长城大致为：西起于甘肃省岷县，循洮河向北至临洮县，由临洮县经定西县南境向东北至宁夏固原县。由固原向东北方向经甘肃省环县，陕西省靖边、横山、榆林、神木，然后折向北至内蒙古自治区境内托克托南，抵黄河南岸。黄河以北的长城则由阴山山脉西段的狼山，向东直插大青山北麓，继续向东经内蒙集宁、兴和至河北尚义县境。由尚义向东北经河北省张北、围场诸县，再向东经抚顺、本溪向东南，终止于朝鲜平壤西北部清川江入海处。
据记载，秦始皇使用了近百万劳动力修筑长城，占当时全国总人口的二十分之一。秦长城不仅在构筑方法上有自己的风格，而且在防御设施的建置也有一定的特色，以石筑见称。
秦长城第一阶段的重点是维修、连接秦赵燕等战国长城，新筑的部分不多，工程量不大，还没有动用全国的人力物力，由蒙恬率部和沿线军民共同完成，后期则大力修建长城。在修筑北方长城的同时，原诸侯国间用以“互防”的长城被拆毁：“皇帝奋威，德并诸侯，初一泰平。堕坏城郭，决通川防，夷去险阻。”
根据当时的历史环境，长城确保了边防的巩固和国家的安全，给中原农业的生产提供了一个稳定的环境，就如《过秦论》中所说：“却匈奴七百余里，胡人不敢南下而牧马，士不敢弯弓而抱怨”。
汉代
汉初，匈奴乘华夏战乱，越过秦大将蒙恬所筑长城，和汉帝国以战国秦、赵、燕长城为界对峙。由于长城年久失修，北方守军稀少，因此，强大的匈奴不断进入长城以内掳掠。
但是，就是这样一条破烂不堪的长城，也在一定程度上发挥了军事防御作用。程不识是驻守长城的名将，治军严厉，只要他戍边匈奴就不敢来犯。其后卫青、霍去病、公孙贺、公孙敖等出击匈奴，均以秦、赵长城为进攻退守的主要据点。
汉武帝登基后，连续发动多次对匈奴的战争，将其驱逐至漠北，修复了蒙恬所筑秦长城，又修建了外长城，筑成了一条西起大宛贰师城、东至鸭绿江北岸、全长近一万千米的长城。此时战国时期的秦、赵、燕长城才被放弃，其军事防御作用也随之终结。
汉武帝修筑长城驱逐匈奴，对维护西汉帝国的安全起了很大的作用，同时也维护了丝绸之路的畅通和安全，有着非凡的历史意义。
隋代
为了对付来自漠北突厥的南下袭扰和掠夺，隋文帝杨坚自建国伊始，就把修筑长城、巩固边防，视为重要国防政策。隋炀帝杨广即位以后，除了继续防御北方突厥的袭扰之外，还要着力对付来自西北方面吐谷浑的侵袭，为此曾先后两次修筑长城，动用劳力之多隋代前所未有。
自开皇元年至大业四年的28年中，隋朝两代统治者先后7次调发近200万劳力，于北部和西北部边境修筑长城、增建城垒，在前代北魏和周、齐修筑长城的基础上，使东迄紫河，中经朔方、灵武之境，西至榆谷以东的长城、筑垒，基本连成一线。
2007年，在山西省岢岚县发现了一方隋朝筑长城的刻石，这方长城施工碑记是迄今发现最早的有纪年的施工碑记。
2009年勘测，隋长城遗迹位于山顶，为石筑，已塌为石滩状，高约50—80厘米。山腰部为土筑长城，地表残高约1.5米，夯土层13厘米。
2010年，长城资源调查队对陕西省延安、榆林、渭南三市16个区县的早期长城资源进行了野外调查。共调查战国、秦、汉、隋等时代长城近1700千米。新发现战国秦昭襄王长城200余千米，在榆林市榆阳区、神木县、横山县、靖边县、定边县5区县新发现隋长城约500千米。隋长城大部分段落沿用了秦昭襄王时期长城，而隋长城又被明长城沿用。
2010年，内蒙古鄂尔多斯市博物馆长城调查小组，在鄂前旗上海庙镇特布德嘎查发现一处隋长城遗址。隋长城共有3段，墙体为堆筑土墙，泛白色，呈鱼脊状凸起，宽约3到6米，残高约0.5到1米，均在明长城以北约90到200米处，约6.8千米。墙体笔直，与明长城走向一致。
