居延丝绸古道位于阳关“丝绸之路”以北的沙漠、戈壁、草原地带。居延绿洲是居延东西古道和居延南北古道的十字路口。居延丝绸古道在历史上,特别是战乱、丝绸之路“三绝”时,发挥了极其重要的作用。但由于居延丝绸古道偏离当时经济发达的农耕地区,自然条件较差,其利用程度远不及阳关“丝绸之路”。
关于居延丝绸古道的记载,始见于《史记·匈奴列传》:“其夏,骠骑将军复与合骑侯数万骑出陇西、北地二千里,击匈奴,过居延,攻祁连山。”汉武帝元狩二年(前121年),西汉王朝第二次大规模反击匈奴,由居延丝绸古道而开辟河西四郡。这是有关居延丝绸古道东段(今鄂尔多斯草原至居延绿洲)的史料记载。《汉书·卫青霍去病传》对此事件的记载更加详尽:“去病至祁连山,捕首虏甚多。上曰:‘骠骑将军涉钧耆,济居延、逐臻小月氏,攻祁连山,扬武乎觻得(今甘肃张掖西北)’……”。此次进军的路线大致为:从今甘肃庆阳出发,向西北行过古萧关,抵达富平县(今宁夏银川平原,汉属安定郡),沿黄河北行,在朔方郡窳洪县(今内蒙古磴口境内)出鸡鹿塞(今磴口西北哈隆格乃山口),过钧耆,西北穿越乌兰布和巴丹吉林沙漠北缘的戈壁、荒漠,到达居延,沿弱水南进,终达觻得城。
《史记·大宛列传》记载,汉武帝太初元年(前104年),“于酒泉、张掖北,置居延、休屠以卫酒泉”。汉武帝太初三年(前102年),匈奴袭击酒泉郡,杀酒泉都尉。同年,汉武帝起用前伏波将军路博德为强弩都尉,驻守居延,增筑“遮虏障”等防御设施。
《汉书·李陵传》载,“天汉二年(前99年),陵于是将其步卒五千人出居延,北行三十日,至浚稽山止营,……。”汉军在浚稽山与匈奴3万骑兵交战,因寡不敌众,汉军循龙城古道向居延塞退却。由此可见,沿居延丝绸古道北段出行,接龙城古道,便可直达匈奴单于王庭。