1905年5月,京张铁路总局和工程局成立,以陈昭常为总办,詹天佑为会办兼总工程师,1906年詹天佑又升为总办兼总工程师.詹天佑清楚地知道这一任务的艰巨性,他首先必须顶住来自各方面的冷嘲热讽：有人说他是“自不量力”,“不过花几个钱罢了”,甚至说他是“胆大妄为”.他给他的美国老师诺索朴夫人的信中就这样说：“如果京张工程失败的话,不但是我的不幸,中国工程师的不幸,同时带给中国很大损失.在我接受这一任务前后,许多外国人露骨地宣称中国工程师不能担当京张线的石方和山洞的艰巨工程,但是我坚持我工程”.充分体现了中国知识分子的爱国心和民族责任心.
詹天佑勘测了三条路线,第二条绕道过远为不可取.第三条就是今天的丰沙线.由于清廷拨款有限,时间紧迫,詹天佑决定采用第一条路线,即从丰台北上西直门、沙河、经南口、居庸关、八达岭、怀来、鸡鸣驿、宣化到张家口,全长360华里.全线的难关在关沟,这一带叠峦重嶂,悬殊峭壁,工程之难在当时为全国所没有,世界所罕见；坡度极大,南口和八达岭的高度相差180丈.詹天佑把全线分为三段：丰台到南口为第一段,南口到康庄为第二段,余为第三段.
1905年9月4日正式开工,12月12日开始铺轨.就在铺轨的第一天,一列工程车的一个车钩链子折断,造成脱轨事故.这一下成了中国人不能自修铁路的证据,各种诽谤中伤纷至沓来.但詹天佑没有惊慌失措,反倒冷静地想到：此路坡度极大,每节车厢之间的连接性能稍有不固,事故就难避免.为此,他使用了自动挂钩法,终于解决了这个问题.
1906年9月30日第一段工程全部通车,第二段工程同时开始.难关就在第二段,首先必须打通居庸关、五桂头、石佛寺、八达岭四条隧道,最长的八达岭隧道1,092公尺.这不仅要有精确的计算和正确的指挥,还要有新式的开山机、通风机和抽水机.前者对詹天佑都不成问题,而后者当时中国全都没有,只在靠工人的双手,其困难程度可以想见.他们硬是克服了重重困难,终于在1908年9月完成了第二段工程.
第三段工程的难度仅次于关沟,首先遇到的是怀来大桥,这是京张路上最长的一座桥,它由七根一百英尺长的钢梁架设而成.由于詹天佑正确地指挥,及时建成.1909年4月2日火车通到下花园.下花园到鸡鸣驿矿区岔道一段虽不长,工程极难.右临羊河,左傍石山,山上要开一条六丈深的通道,山下要垫高七华里长的河床.詹天佑即以山上开道之石来垫山下河床.为防山洪冲击路基,又用水泥砖加以保护,胜利完成了第三段工段.
对于工程上的困难,詹天佑从未放在眼里,对于人为的障碍却使詹天佑忧愤至极.清河有个叫广宅的人,是前任道员,皇室载泽的亲戚,朝野均有势力.铁路恰经其坟地,他即率众闹事,阻止工程,私下又许以重贿,要求改道.邮传部竟不敢过问.这里北面是郑王坟,南面是宦官坟,西面是那拉氏父亲桂公坟,要大改道不知要浪费多少时间和经费.詹天佑以受贿为可耻,绝不改道,竟以去留相力争.最后因五大臣出洋被炸,载泽吓得不敢与闻外事,广宅才因失去靠山而同意经其坟墙以外通过.
