1938年1月中旬，根据国民政府指令，长沙临时大学迁往昆明，另行组建国立西南联合大学。当时中共驻长沙办事处的徐特立等几位书生闻讯，急速来到长沙临时大学讲演，坚决反对西迁，鼓动学生抵制国民政府与学校当局的号令。无奈形势比人强，历史选择的只能是顺应时代潮流为民族大义而前行的人。国难当头，大局已定，临时大学师生打点行装，昂头挺胸，以悲壮的豪气英姿，毅然迈出了西迁的步伐。几乎与此同时，中央研究院在长沙各研究所，经过一番仁者见仁，智者见智的争论后，决定即刻向重庆、桂林、昆明等不同的地区撤退转移。中研院总办事处于重庆发出指示，电令在长沙的史语所与社会科学研究所、天文研究所等设法向昆明转移。
1938年春，中央研究院在长沙各所陆续向昆明进发。据《史语所大事记》1937年12月条：“议迁昆明，图书标本迁昆明者三百六十五箱，运重庆者三百箱，运桂林者三十四箱，待运汉口者两箱，等运香港者五十二箱，其余六十多箱且封存于长沙。”
一切安排完毕，史语所人员押送三百余箱器物，先乘船至桂林，经越南海防转道抵达昆明，暂租赁云南大学隔壁青云街靛花巷三号一处楼房居住。此时梁思成一家已先期抵达昆明，并在翠湖边一个大宅院里落脚。可谓有缘千里来相会，史语所同仁与梁家在这个陌生的边陲春城再度相会了，大家相互倾诉路途的艰辛。
关于梁家由长沙至昆明的逃难经过，许多年后，梁从诫曾有过这样的回忆：“汽车晓行夜宿，几天以后，在一个阴雨的傍晚，到达一处破败的小城——湘黔交界处的晃县。泥泞的公路两侧，错落着几排板房铺面，星星地闪出昏暗的烛火。为了投宿，父母抱着我们姐弟，搀着外婆，沿街探问旅店。妈妈不停地咳嗽，走不了几步，就把我放在地上喘息。但是我们走完了几条街巷，也没有找到一个床位。原来前面公路坍方，这里已滞留了几班旅客，到处住满了人。妈妈打起了寒战，闯进一个茶馆，再也走不动了。她两颊绯红，额头烧得烫人。但是茶铺老板连打个地铺都不让。全家人围着母亲，不知怎么办才好。”后来，多亏遇上了一群空军飞行学院的学员，才在他们的住处挤了个房间住了下来。此时的林徽因患急性肺炎已发烧四十度，一进门就昏迷不醒，多亏同车一位曾留学日本的女医生给开了几味中药治疗，两个星期后才见好转。
经历了四十余天的颠簸动荡，梁氏一家穿山越岭，历尽艰难困苦，终于在1938年1月到达昆明。几个月后，史语所人员接踵而至，相见之后的惊喜可想而知。
待一口气喘过，原中国营造学社的刘致平、莫宗江、陈明达等人，在与梁思成取得联系后，从不同的地方先后赶到了昆明。尽管前线依然炮声隆隆，战火不绝，但此时的梁思成感到有必要把已解体的中国营造学社重新组织起来。对西南地区的古建筑进行一次大规模调查，唯如此，方不辜负自己与同事的青春年华，以及老社长朱启钤的临别嘱托。他开始给营造学社的原资助机构——中华教育文化基金董事会发函，说明大致情况并询问如果在昆明恢复学社的工作，对方是否乐意继续给予资助。中基会很快给予答复：只要梁思成与刘敦桢在一起工作，就承认是中国营造学社并给予资助。梁思成迅速写信与在湖南新宁老家的刘敦桢取得联系，并得到对方乐意来昆明共事的许诺。于是，中国营造学社的牌子又在风雨迷蒙的西南之地挂了起来。
就在中研院史语所等学术机构向昆明撤退的同时，长沙临时大学也开始了迁徙行动，师生们分成三路赶赴昆明。据《西南联大校史》载：
第一批走水路，由樊际昌、梅关德和钟书箴教授率领，成员包括教师及眷属，体弱不适于步行的男生和全体女生，共计600多人，分批经粤汉铁路至广州，取道香港、坐海船到安南（越南）海防，由滇越铁路到蒙自、昆明。
第二批由陈岱孙、朱自清、冯友兰、郑昕、钱穆等10余名教授乘汽车，经桂林、柳州、南宁，取道镇南关（今友谊关）进入河内，转乘滇越铁路火车抵达蒙自、昆明。
第三批为“湘黔滇旅行团”，由290名学生和11名教师组成。
随队的11名教师组成辅导团，由黄钰生教授领导，成员包括中文系教授闻一多、教员许维遹、助教李嘉言；生物系教授李继侗、助教吴征镒、毛应斗、郭海峰；化学系教授曾昭抡；地质系教授袁复礼、助教王钟山等人。应临时大学请求，国民政府军事委员会和湖南省政府指派驻湘中将参议黄师岳担任“湘黔滇旅行团”团长，军训教官毛鸿上校充任参谋长，对旅行团实施军事化管理。师生身穿湖南省政府赠发的土黄色崭新制服，裹绑腿，背干粮袋、水壶，外加黑棉大衣一件，雨伞一柄，犹如一支出征的正规部队。全团分为2个大队、6个中队、18个小队。大队长分别由教官邹镇华、卓超二人担任，中队长和小队长分别由学生担任。
2月20日，旅行团大队人马离开长沙，一路经湘西穿越贵州，翻山越岭，夜宿晓行，跋涉1600余公里，日夜兼程68天，除车船代步和旅途休整外，实际步行40天，约1300公里。时湘黔一带土匪横行。山野村寨经常传出抢劫财物，杀人越货的消息。湘西土匪之猖獗世人皆知，大股匪群有数千人之众，不但拥有新式来复枪、手枪、盒子炮，还拥有重机枪与小钢炮等装备。在军阀混战时期，匪众们为争地盘和钱财，时常与当地驻军交战，有时一棚土匪敢跟一个师的兵力对抗交火。临时大学组成的旅行团之所以由全副武装的军人领队护行，一个重要缘由就是深怕途中遭遇匪徒，发生不测。临出发前，湖南省政府主席张治中专门派人与黑道中的“湘西王”打过招呼，告知有一批穷学生将“借道”湘西与黔境到云南读书，请传令沿途各“广棚”、“土棚”和“斗板凳脚”，以民族大义为重，不要对其进行骚扰。
或许是张治中的招呼起了作用；或许“湘西王”真的以民族大义为重，向密布于山野丛莽中的黑道弟兄下达了手谕；或许因为穷师生们本身没有多少财物可劫掠。一路下来，旅行团并未与土匪遭遇。只有一次，走到一个离土匪窝点很近的地方停留过夜，有探子来报，说可能当晚有土匪前来打劫，众人极其紧张，作了特别戒备和最坏的打算。然而夜间只听得远处几声枪响，并未见土匪来临，众人虚惊一场，算是度过了一劫。
旅行团进入湘黔交界处，受到当地政府和民众的热情照拂。当大队人马进入黔东门户——以侗族人为主体的玉屏县境时，政府专门张贴由县长刘开彝于3月16日签署的布告，告知商民临时大学旅行团将抵本县住宿，而“本县无宽大旅店，兹指定城厢内外商民住宅，概为各大学生住宿之所。凡县内商民际此国难严重，对此振兴民族之领导者——各大学生，务须爱护借重，将房屋腾让，打扫清洁，欢迎入内暂住，并予以种种之便利。特此布告。仰望商民一体遵照为要。”3月17日，旅行团到达玉屏县，受到县长刘开彝、各界代表及童子军的热烈欢迎，食宿等诸方面都得到了最大限度的关照。
当旅行团进入贵州腹地时，不间断地有村寨地保敲锣，提示商人与百姓不要提高物价，以方便过路的旅行团。此后，旅行团更是一路畅通无阻，有的县甚至派出中学生在城郊列队欢迎。有一对郑姓姐妹，特地邀请一位同姓的团员到家里吃饭认亲。玉屏产的箫闻名全国，有“苏州笛子玉屏箫”之誉，郑姓姐妹赠送同姓学生玉箫一对留作纪念，从而留下了一段佳话。
热烈的场景在省城贵阳达到了高潮，这一天正赶上滂沱大雨，旅行团成员们为壮观瞻，步伐整齐地冒雨行军，嘹亮的歌声在雷电交加中传向四方，大街两旁的群众无不鼓掌欢呼，冒雨向前与队员们握手拥抱。如此热烈的场景，令师生们深为感念，徒增肩上神圣使命。据随行的闻一多后来说：“那时候，举国上下都在抗日的紧张情绪中，穷乡僻野的老百姓也都知道要打日本，所以沿途并没有做什么宣传的必要。同人民接近倒是常有的事。但多数人注意的还是苗区的风俗习惯，服装，语言，和名胜古迹等等。”又说：“在旅途中同学们的情绪很好，仿佛大家都觉得上面有一个英明的领袖，下面有五百万勇敢用命的兵士抗战，反正是没有问题的。”
68天的长途跋涉，旅行团师生们真正地走出了象牙塔。进入到书本之外形形色色的大千世界。一路上，师生们拜访苗寨，调查社会与民众生活，切身感受到国家经济的落后与百姓生活的艰辛，尤其是对当地种植鸦片的背景和这种毒品给社会带来的危害有了更深层的了解和认识。辅导团教师们借此时机进行实际教学，当年与李济一同进行山西夏县西阴村田野考古发掘的著名地质学家袁复礼教授，结合湘西、黔东一带的地形地貌，讲解河流、岩石的构造形成，以及黔西岩溶地貌和地质发育理论。闻一多指导学生收集当地民歌、民谣，研究不同民族语言，并对当地风土人情进行写生。闻氏本人用铅笔写生画作数十幅，取材别致，笔意苍劲，当到蒙自展示后，许多教授大为震动，认为是不朽之作。师生们收集的云贵民间歌谣多为男女相悦相慕之词，在内地和书本上极难闻见，其含蓄中暗带的艳丽令师生们大感新奇，如“廊前半夜鹦鹉叫，郎弹月琴妹吹箫”，就是一首绝妙的民谣。
旅行团中，与闻一多的慷慨激昂性格和诗人浪漫气质不同的是，北大化学系教授曾昭抡的故事更是为师生津津乐道。这位晚清名臣曾国藩的后辈沉默寡言，平时很少与人交际，只是专心治学，有时简直到了着迷的程度。尽管曾氏自少年就在长沙美国教会学校学习，又是清华出身，留美博士，但与其他留学东洋、西洋的学人大不相同。一般而言，凡留洋的学生总是西装革履，打扮入时，气宇轩昂，头发梳得油光发亮，一丝不乱。曾昭抡却反其道而行之，在穿衣打扮上，具有浓厚的中国乡村塾师的“名士”气。他所穿的大多是蓝布大褂，在外人看来总是皱皱巴巴，不太合身，且有些破破烂烂、土里土气，有时第三个扣子还要扣到第二个扣眼中，形成一个大斜襟。脸洗得好像不太干净，头发不整，胡子几天不刮，像个游走于街头巷尾的卖油条或煎饼果子的小商贩。脚上的袜子似是没有袜筒，只到脚后跟为止。鞋子更是玄乎得令人头晕，总是一双蓝色或黑色布鞋，且鞋子前后有洞，近似于后来的塑料拖鞋或凉鞋，只能趿拉着走路。鞋中袜子的前头总是被脚趾顶破而不补，形成了鞋前裸露脚趾，后头露着袜子甚至脚后跟的古代游方和尚济公模样。这副打扮，师生们见得多了也就习以为常，每次在路上见了只是悄悄叽咕一声“空前绝后”，一笑了之。但不明就里的人往往发生点误会，搞得双方都很尴尬。据联大学生何兆武说：“朱家骅做中央大学校长的时候，有一次召集各系主任开会，曾昭抡来了，朱家骅不认得，问他是哪一系的。曾昭抡答是化学系的。朱家骅看他破破烂烂，就说：‘去把你们系主任找来开会。’曾昭抡没有答话，扭头走了出去，回宿舍后，卷起铺盖就离开了。随后就在北大化学系做系主任。”
尽管曾昭抡为人低调，穿得破破烂烂，平时不哼不哈，但湘湖文化中的“吃得苦、挺得住、霸得蛮”的脾气还是一点不少的。由于此次朱家骅的冒失，使曾昭抡感到受了人格污辱。与许多官僚不同的是，他并不解释和辩驳，并且认为对这类高高在上的官僚政客解释一句都是多余的，且有损于自己的人格和尊严，于是闷头不响地悄悄卷起铺盖开路。这个作风很有一些“湘乡蛮子”倔犟不羁的风格。
何兆武讲的这个故事应是1931年间的事。就在这一年，曾昭抡应北京大学校长蒋梦麟邀请，出任北大化学系教授兼主任。曾昭抡到北大任职后，所放的“三把火”，就是添设备、买药品、扩建实验室。据费孝通回忆说：“他为这个学科费尽心力，像一个妈妈对自己的孩子一样。在我国把实验室办到大学里边，据说他是第一个。通过实际获得科学知识，他解决了这一个很基本的问题，抓住了要害。”在这个基础上，曾昭抡把在国外多年学到的绝招全部施展了出来，并天才地加以发挥，对各项事务作了彻底革新，使北大化学系无论是人才还是设备一跃成为全国业内最强的一个系，受到全国教育界的瞩目和称誉。
按照曾氏的学生、1948年毕业于北大化学系，后为北大化学与分子工程学院教授苏勉曾的说法，曾昭抡“振兴北大化学系的功绩可与蔡元培校长改革、振兴北京大学的功绩相比拟。”这话或许有点言重了，但当年曾氏在北大化学系建设中的功绩确是名动一时的。
北大南迁后，曾昭抡率化学系一批师生来到长沙，继而随“湘黔滇旅行团”向昆明徒步进发。每天自清晨走到傍晚，曾氏不走小道捷径，而是沿盘山的沙石公路走，每当休息时，就坐下来写日记。据当时就读于北大化学系，随旅行团赴滇的学生唐敖庆回忆：“每天早晨，当我们披着星光走了二三十里路时，天才放亮。这时远远看见曾昭抡教授已经坐在路边的公里标记石碑上写日记了。等我们赶上来后，他又和我们一起赶路。曾先生每天如此。看来，他至少比我们早起一两个小时。”每到一地，借休整之机，曾昭抡还同闻一多等教授向当地军政官员、士绅与民众作政治文化方面的讲演，分析中国的国力、军队和武器，以及长期抗战中如何解决所需要的钢铁、棉花、酸碱、橡胶等物资的供应等问题，同时论证抗战必胜以及胜利后将需要大量人才，寄希望于当地青年与西南联大的学生等等议题。在整个旅途跋涉中，旅行团师生们写下了一本又一本日记、观察心得和画作，学生钱能欣到达昆明后，将自己的旅行日记整理成《西南三千五百里》一书，由商务印书馆出版发行。歌谣采访组学生刘兆吉将途中收集的2000多首民歌，汇集成《西南采风录》一书，为当地的历史文化留下了丰富的史料。清华外文系学生、湘黔滇旅行团“护校队员”查良铮，也就是后来著名的诗人穆旦，以澎湃的激情和飞动的灵性，创作了名动一时的《出发》、《原野上走路》等“三千里步行”系列诗篇：
出发——三千里步行之一澄碧的沅江滔滔地注进了祖国的心脏，浓密的桐树，马尾松，丰富的丘陵地带，欢呼着又沉默着，奔跑在江水两旁。
千里迢遥，春风吹拂，流过了一个城脚，在桃李纷飞的城外，它摄了一个影：
黄昏，幽暗寒冷，一群站在海岛上的鲁滨逊失去了一切，又把茫然的眼睛望着远方，凶险的海浪澎湃，映红着往日的灰烬。
（哟！如果有Guitar，悄悄弹出我们的感情！）一扬手，就这样走了，我们是年青的一群。
而江水滔滔流去了，割进幽暗的夜，一条抖动的银链振鸣着大地的欢欣。
在清水潭，我看见一个老船夫撑过了急流，笑……原野上走路——三千里步行之二我们终于离开了渔网似的城市，那已窒息的、干燥的、空虚的格子不断地捞我们到绝望去的城市呵！
而今天，这片自由阔大的原野从茫茫的天边把我们拥抱了，我们简直可以在浓郁的绿海上浮游。
我们走在热爱的祖先走过的道路上，多少年来都是一样的无际的原野，（欧！，蓝色的海，橙黄的海，棕赤的海……）多少年来都澎湃着丰盛收获的原野呵，如今是你，展开了同样的诱惑的图案等待着我们的野力来翻滚。所以我们走着我们怎能抗拒呢？欧！我们不能抗拒那曾在无数代祖先心中燃烧着的希望。
这不可测知的希望是多么固执而悠久，中国的道路又是多么自由而辽远呵……4月28日上午，旅行团师生们带着满身风尘和疲惫，抵达昆明东郊贤园。西南联大常委蒋梦麟、梅贻琦，以及南开的杨石先、清华的潘光旦、马约翰等教授，另有部分从海道来昆的学生伫立欢迎。之后，大队人马向城内开进，当队伍经过中央研究院史语所临时租赁的拓东路宿舍门前时，史语所同仁打出了“欢迎联大同学徒步到昆明”的横幅，以示嘉勉。史语所语言组主任赵元任夫人杨步伟、北大校长蒋梦麟夫人陶曾榖、南开大学秘书长黄钰生夫人梅美德，携各自的女儿与一群当地儿童，在路边设棚奉茶迎接。队伍的前锋一到，众人立即端茶送水递毛巾，向师生献花。欢迎的人群还为这支历尽风霜磨难的队伍献歌一曲，这是著名语言学家兼音乐家赵元任特地为师生们连夜制作而成的，词曰：
遥遥长路，到联合大学，遥遥长路，徒步。
遥遥长路，到联合大学，不怕危险和辛苦。
再见岳麓山下，再会贵阳城。
遥遥长路走罢三千余里，今天到了昆明。
歌声响起，如江河翻腾，大海惊涛，慷慨悲壮的旋律向行进中的每一位师生传递着国家的艰难与抗战必胜的信念，许多师生与在场的群众被感动得涕泪纵横。队伍进入昆明圆通公园，在唐继尧墓前举行了隆重的欢迎仪式，旅行团团长黄师岳站在队前逐一点名完毕，将花名册送交梅贻琦。这个简单神圣的仪式，标志着历史上从未有过的学生旅行团，成功地完成了由湘至滇的千里奔徙，全体成员平安抵达目的地，黄师岳与随团的官兵也完成了政府赋予的光荣使命。自此，数千名师生在昆明正式组建了足以标榜青史、永垂后世的西南联合大学。国民政府任命蒋梦麟、梅贻琦、张伯苓等三人为西南联大常委，共同主持校务。
为鼓励师生精神，坚持文化抗战的决心，表达中华民族不屈的意志，西南联大成立了专门委员会，向全体联大师生征集警言、歌词，制定新的校训、校歌。从众多来稿中，专门委员会经过反复筛选和讨论，最后以“刚毅坚卓”四字作为联大校训。同时选定由联大文学院院长冯友兰用《满江红》词牌填写的歌词，清华出身的教师张清常谱曲的词曲作为校歌，歌词为：
万里长征，辞却了，五朝宫阙。暂驻足，衡山湘水，又成离别。绝徼移栽桢干质，九州遍洒黎元血。尽笳吹，弦诵在山城，情弥切。
千秋耻，终当雪。中兴业，须人杰。便一成三户，壮怀难折。多难殷忧新国运，动心忍性希前哲。待驱除仇寇，复神京，还燕碣。
这是一曲20世纪中国大学校歌的绝唱，它凝聚了中国文人学者、莘莘学子在民族危难时刻最悲壮的呼喊，浓缩了联大师生在国危家难之际所具有的高尚情感和坚强意志。从此，西南联大的歌声开始响起，激昂的旋律震动校园内外，感染着师生，激励着不同职业的中华儿女共赴国难，奋发自强。
西南联大组建之初，以蒋梦麟为主任的总办事处设在崇仁街46号。未久，在各界人士支持帮助下，又租得大西门外昆华农业学校作为理学院校舍，租得拓东路迤西会馆、江西会馆、全蜀会馆作为工学院校舍，盐行仓库作为工学院学生宿舍，几处房屋略加修理，置办一些桌椅就可以开课。木床赶制不及，每个学生配发几个做外包装用的小木箱，拼拢以代卧榻，箱中还可以放书，可谓一石二鸟，一箱两用。秩序甫定，张奚若、金岳霖、钱端升等原与梁家关系密切的联大教授，又得以与梁思成、林徽因夫妇相聚，流浪的知识分子在阳光明媚，风景宜人，鲜花遍地的边城，又找回了往日的温馨与梦中的记忆。只是安详舒心的日子未过多久，沉重的生活压力接踵而来。地处西南边陲，多崇山峻岭，在国人眼中并不突出的云南，由于战争爆发和国军大规模溃退，此地的战略地位越来越显得重要，省会昆明不仅成为支撑国民政府持续抗战的大后方，同时也成了沦陷区各色人等的避难场所。大批机关和社会人员涌进，导致昆明物价飞腾窜升，无论是当地人还是外来人，都感到了前所未有的生活压力。
西南联大常委梅贻琦在几次登门看望梁思成这位清华老学生时，曾谈及不久的将来，邀请梁氏夫妇充当联大校舍设计师，梁林夫妇为能接受这一任务深感荣幸。在云南省政府支持下，这年7月，联大选定并购置昆明西北城外三分寺的120余亩土地作为校舍，初步预算暂定为贰拾万元，以后边投资边建设。梁思成、林徽因夫妇受领任务后，根据以黄钰生等15人组成的联大建筑设计委员会的要求，花了半个月时间，拿出了第一套设计方案，一个中国一流的现代化大学校舍跃然纸上。然而，这一方案很快被否定，其原因是设计委员会当初没有考虑到理科学生所需要的实验室等房舍，梁、林夫妇的设计方案被迫修改。几经反复，拖延数月。随着内地战事不断扩大和无限期地延长，国民政府教育部拟定了一个《平津沪战区专科以上学校整理方案》，此方案规定新组建的西南联大经费拨款按“北京、清华两校预算及南开原有补助四成移拨。”即便如此，经费也难以如数到位，教职员工的薪水都无法按时发出，要建高楼大厦就无疑成为痴人说梦了。
梁、林夫妇遵照新的设计方案，将原计划中的三层砖木结构楼房改成二层，未久矮楼又变成了平房，砖墙变成了土墙。几乎每改一稿，林徽因都要落一次泪。当交出最后一稿时，建设委员会委员长黄钰生很无奈地告诉他们：“经校委会研究，除了图书馆和食堂使用砖木结构和瓦屋顶外，部分教室和校长办公室可以使用铁皮屋顶，其他建筑一律覆盖茅草。”梁思成听罢，感到忍无可忍，径直来到梅贻琦的办公室，把设计图纸狠狠地拍在桌子上，大声嚷道：“改，改，改！从高楼到矮楼，又到茅草房，还要怎么改？！”
梅贻琦望着这位平日总是心平气和的老学生一反常态地恼怒起来，知道是冲着政府削减经费过猛过狠又拖欠的做法而来，叹了口气，起身像对待耍脾气的小孩子般和颜悦色地说道：“思成啊，大家都在共赴国难，以你的大度，请再最后谅解我们一次。等抗战胜利回到北平，我一定请你为清华园建几栋世界一流的建筑物，算是对今天的补尝，行吗？”梁思成望着梅贻琦温和中透出的坚毅的目光，想起时局的艰难，泪珠从眼角悄然滑落下来。