在短短的三个月之内，中国学术界灿烂星河中最亮丽的巨星相继陨落，台岛各界及海内外学人为之哀戚。为使科学事业不致因巨星陨落而停滞，同时也尽快扫除密布于学人心头上的阴霾，在胡适业归道山不久，台湾当局再度任命李济为“中央研究院”代院长。李推托一番，最后表示个人服从组织，拿起鸡毛掸子，把故院长胡适坐过的那把有些灰尘的椅子扫了扫，躬身坐了上去。
李济自1948年年底拒绝他的学生与陶孟和等人三番五次劝阻，毅然决然地押着他视若生命的国之重宝渡过波浪滔天的台湾海峡，毫发未损地在基隆港安全登陆后，国民党大势已去，兵败如山倒，一批批官僚、政客、奸商、投机分子、游兵散勇与流氓、乞丐等各色人物，像蝗虫一样嗡嗡叫着，蜂拥至这座孤悬于汪洋大海中面似烧烤地瓜状的岛屿。
因地小人多，时局混乱，来台人员大多无处安身。李济率领押船的部分史语所人员，勉强在台大医学院教室中搭个简单的床铺暂住下来。时台大教室少而简陋，其拥挤之状从石璋如回忆中可以见出：“人多的可以住一间教室，人少的就两家住一间教室，我就跟萧纶徽家共住一间教室。教室有前后二门，萧走前门，我走后门，两家中间用帐子拉起来隔开。公家只给一家做了一张方形大床，上头可以搁两张榻榻米，全家人就挤在一起，睡在上头。这就是我们的住。李济先生比我们早来一段时间，家眷多，也住在台大医学院。虽然我们到这里很苦，可是我们从基隆下船一早来到台大安顿行囊之后，休息到第二天，史语所三组的同仁就在李济先生的带领下，步行到圆山作遗址调查去了。”
在迁台的最初几年，尽管孤悬一岛，前程堪忧，李济曾有过“心情迷乱，考古兴趣伤失殆尽”的情绪，但很快振作起来，并以一个国际级学者的风范和文化良知，重新投入学术中去。除领导并参加了著名的圆山贝冢发掘，还参加了台中瑞岩泰雅族的体质人类学调查，组织对桃园尖山遗址发掘、环岛考古调查，整理安阳殷墟出土陶器、青铜器等事宜。再之后，李济率领一帮弟子开始对中国上古史展开研究。此时的李济与许多学者不同的是，他以一个杰出的人类学者的身份和地位，而不是以一个狭隘的考古专家的身份与角度，来观察上古人类活动与创造文明的历程与成果，充分展现了其在学术上的磅礴大气与深刻洞见。对于这段史实的考察研究以及最萦绕于心的问题，台湾大学为其重刊的文章中，李济以后记的形式作了如下说明：
治中国古代史的学者，同研究中国现代政治的学者一样，大概都已感觉到，中国人应该多多注意北方。忽略了政治的北方，结果是现在的灾难。忽略了历史的北方，我们的民族及文化的原始，仍沉没在“漆黑一团”的混沌境界。两千年来中国的史学家，上了秦始皇的一个大当，以为中国的文化及民族都是长城以南的事情；这是一件大大的错误，我们应该觉悟了！我们更老的老家——民族的兼文化的——除了中国本土以外，并在满洲、内蒙古、外蒙古以及西伯利亚一带，这些都是中华民族的列祖列宗栖息坐卧的地方；到了秦始皇筑长城，才把这些地方永远断送给“异族”了。因此，现代人读到“相土烈烈，海外有截”一类的古史，反觉得新鲜，是出乎意料以外的事了。
李济所说的“现在的灾难”，当是指晚清以后的军阀及蒋介石集团没有注重中国北部的经营，因而有了外蒙古在苏俄扶持下悍然独立，国民党受共产党军队的重击而败退台湾的事实。面对这一无法挽回的惨剧，李济以他非凡的识见告诉他的同行并附带警示逃亡台岛的政客们，越是在这样艰难困苦的境况中，作为具有思想的政界和学术中人，就越要把眼光放得长远与开阔，不要拘泥于一个小小的台湾岛或中国大陆，特别是“我们以研究中国古史学为职业的人们，应该有一句新的口号，即打倒以长城自封的中国文化观；用我们的眼睛、用我们的腿，到长城以北去找中国古代史的资料，那里有我们更老的老家”。如此的学术境界和气魄，如张光直所说：“除了个人的胸襟，更代表了在上古史研究中的一种实事求是的科学态度。”
1953年秋，李济在菲律宾举行的第八届太平洋科学会议上所作专题报告《安阳的发现对谱写中国可考历史新的首章的重要性》，文章再次指出：“中国是一个大陆国家，因而这片土地上无论发生什么变化都是大陆规模的。中国的文化和种族史的宏大堪与整个欧洲的文化和种族史相比拟。只有从这样的角度来观察，并以此为依据来研究，才能在中国古代史及其考古遗存的阐释上取得真正的进展。”
对于李济思想所散发出的光芒，十年后，有个叫李敖的台大历史系毕业生，曾作了这样的评价：“在中国考古家由早到黑发掘古物的时候，没有人会想到这种‘无聊的’乌龟壳研究会有什么用，但是这三四十年来的古史研究，竟使我们发现我们民族的脐带究竟在什么地方，使我们民族的心胸遥远的跑到长城以北、玉门关以外，这对民族自信心的鼓舞，总比空头口号家的‘大哉中华’来得实际有效吧？”而“这种想象——一个以国家为基点的学术研究的想象，在中国学人中是凤毛麟角的，因为这需要一种博大的透视力、远景的描绘、计划的构想和对纯学术以外的热情。在这些条件上，李济是现存老一辈学人中比较接近的一个。例如，他在四十年前就注意到中国民族的移动问题；三十九年前就注意到中国苦力的劳动量问题；三十八年前就注意到外人发掘古物必须留在中国的问题；二十九年前就注意到古物一律不得私人藏有的问题……这些观点和构想，都是很博大的，都是超乎一般普通学者教授们的‘管’见的。这些博大的观点，自然使具有它们的人，逐渐能从本行的专业，发衍为‘科学的东方学正统’，再从而在中国全面的有组织的推进科学思想，以使中国真正达成现代化。”
在所有谬论充栋的李敖言论中，这段论述算是少有的人话。其实，早在1934年李济发表的《中国考古学之过去与未来》一文，就体现了这一思想脉络和文化识见，而李济作为大师之“大”，除了他对考古材料缜密的考证，主要还是体现在他的胸襟、学术眼光与对整个人类文明过去与未来的清醒认识。在考古人类学领域，李济在初出茅庐，像“刚出笼的包子”满身热气腾腾地走入田野的时候，便极富创建性地提出了如下主张：
一、古物国有，任何私人不得私藏；二、设立国家博物院，奖励科学发掘，并有系统地整理地下史料；三、设立考古学系，训练考古人才。
为实践这三项主张，李济在清华国学院第一次田野考察发掘西阴村时，就做出了“古物国有”的示范性表率。从他涉足古物那一天始，直到去世，据他的同事、亲友及弟子们说，家中没有一件古物，晚年书房里只有五只木雕的猴子，这是因为李济属猴，在台北参加了一个猴属同乡会而特别制作的。生前藏有近二万册图书无一善本，死后分别捐赠给北京和台湾两岸的科学、教育机构。
有人认为李济正是为了实践他倡导的第二个主张，在史语所创办的早期，才积极协助傅斯年筹办中央博物院，并一度出任筹备处主任。只是其间遭逢八年抗战和颠沛流离，使这一理想未能充分实现。所幸的是，来到台湾后，他的第三个主张和理想得以顺利实施——这便是创办台湾大学考古人类学系。
初到台湾的李济在朱家骅、傅斯年等人支持下，克服种种困难与阻力，于1949年创办了台大考古人类学系，并于秋季正式招生。李氏除继续担任史语所考古组主任，还兼任该系系主任之职，并聘请史语所同仁董作宾、芮逸夫、石璋如、凌纯声、高去寻等到该系任教。——这是中国科学界第一次在本国土地上把训练职业考古学家列入大学计划之内的典范，从而开创了大学教育体系设立考古专业的先河，为中国考古学继往开来作出了划时代 贡献。尽管这一学科创办之初，限于当时的条件和大众对这一“乌龟壳研究会”和“刨死人骨头”工作的陌生与偏见，招生很少，但总算为考古学的未来播下了种子。当时除一个叫乔健的学生自动转系来到考古人类学系外，首届毕业生仅有李亦园、唐美君二人。第二届学生共招收三人，分别是张光直、林明汉、任先民。以后学生渐多，有许倬云、宋文熏、尹建中、连照美等。这些学生走出台大后，随着岁月的淘洗磨炼，大多数成为蜚声中外的考古人类学家。其中李亦园、张光直、许倬云等大有青出于蓝而胜于蓝之势。
1954年，中国大陆以“汉字落后论”为前提，根据毛泽东在1951年所作“文字必须改革，要走世界文字共同的拼音方向”的指示，延续了几千年的正体字全部废止，以拉丁化拼音文字取代正体字的声浪遍及宇内。这年9月22日，李济致信正在美国哈佛大学就读的张光直，说道：“中国学术在世界落后的程度，只有几个从事学术工作的人，方才真正的知道。我们这一民族，现在是既穷且愚，而又染了一种不可救药的、破落户的习惯，成天在那里摆架子，谈文化，向方块字‘拜拜’——这些并没有什么‘要不得’——真正‘要不得’的是以为天地之大，只有这些。”又说：“但是，每一个中国人——我常如此想——对于纠正这一风气，都有一份责任。所以，每一个中国人，若是批评他所寄托的这一社会，必须连带地想到他自己的责任。据我个人的看法，中国民族以及中国文化的将来，要看我们能否培植一群努力做现代学术工作的人——真正求知识，求真理的人们，不仅工程师或医师。中国民族的禀赋，备有这一智慧。适当的发展，即可对现代科学工作作若干贡献。你们这一代是负有大使命的。我很高兴，有这一机缘帮助你走向学术的路径。”
这封切中时弊要害又情深意长的书信，凛然鲜明地凸现出李济的心胸与思想情怀，并直接影响了张光直的思想和学术追求，使他在现代科学的道路上奋力前行，终成世界级考古人类学一代巨擘。
就在李济写这封信的第二年，与其并驾齐驱的史语所元老董作宾离职赴港，过起了一种独在异乡为异客的“另类”生活，而日后的人事纠葛与误会也由此而发。