“长城”一词的使用，是在汉代司马迁所撰《史记》中开始的。但是在先秦时期，以及秦汉以后各代，都因朝代不同，修筑形式的差异等因素，称谓也不相同，诸如列城、方城、亭障、塞、堑洛、界壕、边墙等等，而实质上都是指长城。

　　春秋战国时代最先修长城的楚国，其所修的长城有列城、方城之谓。《汉书·地理志》南阳郡叶县下注：“楚叶公邑，有长城，号曰方城。”《水经注·汝水》载：“楚盛周衰，控霸南土，欲争强中国，多筑列城于北方，以逼华夏。”而秦国所修长城为“塞”。据史书记载，秦国的西北部与匈奴接壤，匈奴奴隶主不时率兵南下，骚扰秦境，公元前324年，惠文王出兵“取陕”，“筑上郡塞”（《史记·张仪列传》）。无独有偶，赵国修的长城有时也称“塞”。另外，秦国还在陕西南部的华山和中部的黄龙山之间，修筑过一条人称“堑洛”的长城。“堑”就是掘的意思，即削掘洛河河岸，使之变成高崖以利防守。司马迁着《史记》时虽然使用了“长城”一词，但在当时，人们还是直呼长城为“塞”或“亭障”。

　　汉代主要是修筑了今甘肃西部至新疆境内的长城，可能是汉承秦制之故，也可能这段长城的某些段落修筑形式不同于其它长城之故，似乎此时也没有直呼“长城”，而把它叫作亭障、障塞、边塞、塞。“河西汉长城”是后来人们的称谓。另外，河西汉长城，自罗布泊以西，就只有烽火台而没有相连的墙体，所以，自新疆罗布泊至库尔勒这一段长城，又称为“列亭”。

　　在汉代所修的东段长城中，也有沿袭秦代称谓或别的名称的。例如《汉书·武帝本纪》载：元光五年（公元前130年），“发卒万人治雁门阻险”。《史记·匈奴列传》中也有“汉遂取河南地，筑朔方，复修故秦时蒙恬所为塞，因河为固”。

　　北魏时期，北魏政权为了保卫首都平城（今大同）的安全，在京城南部修筑了一条称为"塞围"的长城，这种围绕平城修筑的“塞围”，大抵相当于两汉的“亭障”，其建造方法可能较简单，但同属于长城的严密防御体系。

　　金代所修长城称界壕，也有称边堡的。
　　明代所修长城，有边墙之称谓。据《明宪宗实录》载：“自永乐中罢海运后，筑边墙于辽河之内” 。
　　综上所述，自从汉代司马迁所着《史记》一书中使用“长城”一词后，大部分朝代还是承认并沿用了这个名称。