傅斯年在回国前已有耳闻，广州一隅得西洋风气之先，革命力量与反革命力量轮番兴起，各色大旗往复变幻。随着国民党北伐节节胜利，作为国民政府的龙兴之地，看上去很有点生气与活力，是可以干一番事业的地方。接到聘书的傅斯年当场拍板儿，表示愿意应聘，但先要回山东老家拜望老母。待一切谈妥之后，傅斯年回山东聊城小住时日，于同年12月携胞弟傅斯严（孟博）来到广州中山大学出任文科学长（后改称文学院长）暨国文、史学两系主任。——这是傅斯年与民国时期学界最有影响的重量级人物朱家骅相见、交往的开始。从此，二人在工作、生活中建立了深厚的友谊。尽管后来一个从政，一个是亦官亦学，走着不尽相同的道路，但人生际遇把他们紧紧地连在一起，在未来二十余年颠沛流离的岁月中，共同度过了相互信任与协作的难忘时光。
傅斯年到中山大学上任不久，朱家骅发现此公为人做事“磊落轩昂，自负才气，不可一世。”执笔为文“雄辞宏辩，如骏马之奔驰，箕踞放谈，怪巧瑰琦，常目空天下士”，不愧是学界难得一见的具有天才处事能力的领袖型“大鳄”。只是这“大鳄”在目空天下士的同时，还算心中有数，视朱家骅为难得的知已，并以过人的胆识、才气加霸气，主动帮助朱氏筹划校务，处理各类繁杂事宜。在傅的策划和主持下，文学院很快增聘了如吴梅、丁山、罗常培、顾颉刚、杨振声、何思源、汪敬熙、商承祚、珂罗掘伦（南按：即高本汉，Bernhard Karlgren，1889－1978，瑞典著名汉学家）、史禄国（南按：Sergei Mikhailovich Shirokogorov，俄国人类学家）等当时学界名流与大牌“海龟”担任教授或通信教授。中山大学由此声名鹊起，威望隆盛。令人扼腕的是，这样的大好局面没有维持多久，由于人事纷争很快走向衰微。
激烈的纷争首先在鲁迅与顾颉刚、傅斯年三人之间展开。
傅斯年到中山大学时，鲁迅正在该校任教务主任兼中文系主任。此前，鲁迅在北平经历了著名的“女师大风潮”，并与陈源（西滢）、徐志摩等现代评论派展开了一场混斗，夹在其间的胡适也被鲁迅视为敌人而遭到咒骂，二人关系宣告破裂并逐渐恶化。也正是由于陈源、徐志摩以及鲁迅认为的后台老板胡适等西洋“海龟”与之交锋对垒，鲁迅对胡适等留学欧美的所谓“洋绅士”，以及胡的弟子顾颉刚之类热衷于在研究室内搞考据的学院派都没有好感。更因此前有人揭露说鲁迅的是“窃取”日本学者盐谷温的《支那文学概论讲话》，顾颉刚亦持此观点，并与陈源谈及此事。陈氏一听立感奇货可居，正是攻击鲁迅的好机会，便写了一封揭发信，由徐志摩编辑发表于1926年1月30日《晨报副刊》。疑心甚重又疾恶如仇的鲁迅看到陈源的公开信后，反应异常激烈，立即写了《不是信》的长文予以反驳。为此，鲁、陈之间再度展开了一场论战。就在这场论战中，鲁迅对陈源、徐志摩，还有躲在背后撑腰的胡适怀恨在心，同时与他认为躲在背后的“阴谋家”顾颉刚也结下了不共戴天之仇。直至“三·一八”惨案发生，鲁迅遭到北洋政府缉捕（南按：其间鲁迅有《纪念刘和珍君》等文章发表），不得不设法离开北京赴南方暂避。1926年8月2日，鲁迅最后一次前往女师大领取薪水，随后告别了这座浸染着他满腔激情与血泪的学府，悄然隐去。
不久，鲁迅受好友林语堂邀请，离开北京赴厦门大学任教。在女师大任教期间结识的女学生兼女友许广平也随鲁迅南下，到广州的广东省立女子师范学校任训育主任。
鲁迅抵厦门大学不久，顾颉刚也受时任文科主任兼国学研究院筹备主任林语堂之邀，辞别北大文学院研究所编辑员之职，阴差阳错地来到厦大任国学研究院研究教授兼国文系名誉讲师。鲁迅一见顾氏到来，眼里冒火，很快二人就演化成势不两立的仇寇。鉴于层层盘根错节的矛盾，誓不愿与顾颉刚等一路人为伍的鲁迅辞职离开厦门，于1927年1月18日抵达广州中山大学，出任教务主任兼中文系主任。
傅斯年受聘中山大学并出任文科学长后，对鲁迅渐生厌恶之感，遂力主聘请北大时代的同窗好友顾颉刚到中大任教，其主要任务是“办中国东方语言历史科学研究所，并谓鲁迅在彼为文科进行之障碍”。意在架空鲁迅，扫除障碍。鲁迅一听顾颉刚要来中大，知道是傅斯年等人合谋设下的圈套，顿时火冒三丈，疾言厉色地对前来商量的傅斯年道：“他来，我就走！”此举令傅深为尴尬与不快，但傅斯年以他敢作敢为的作风，顶着鲁迅的巨大压力，最终把顾颉刚请进了中大。鲁迅眼见自己竟成了一个“大傀儡”，于1927年4月21日辞职离开广州，携许广平赴上海开始了公开同居生活。顾颉刚留了下来，除在中山大学任教，还将大部分精力与傅斯年共同主持筹划语言历史研究所。
1927年5月9日，国民党中央政治会议决定设立中央研究院筹备处，隶属于中华民国大学院。蔡元培正式辞去北大校长之职（蒋梦麟继任），出任国民政府大学院院长。在蔡氏和中央研究院筹备处总干事杨杏佛筹划下，聘请筹备委员30余人，傅斯年、顾颉刚均在其内。这时的中央研究院只设了与国计民生有直接、紧迫关系的理化实业、社会科学、地质、观象等四个研究所。当时既无历史学、语言学或考古学的研究所，更无“历史语言研究所”的立项打算。但霸气十足的傅斯年经过一番权衡后认为，既然是中央研究院，就应该有文史方面的学科加入，否则将有失偏颇。于是纠集“一部分热心文史学的先进”，以“历史语言研究的特别重要；现代的历史学与语言学科是科学”等说辞，凭着北大时代与蔡元培校长结下的良好关系，对蔡氏与杨杏佛等几位决策人物展开游说攻势，声称可“借用在广州语言历史研究所已成就及将建设者，以成中央研究院之语言历史研究所”云云。傅斯年不愧是当年的北大学生领袖，以他特殊的魅力和超人的智能加霸气，终于迫使蔡元培与杨杏佛就范，答应成立一个社会科学方面的学术机关——历史语言研究所。正如傅氏对外界所炫耀的那样：“这一努力显然是很快地成功了。”
1928年3月底，中央研究院筹备委员会一致通过，“因历史语言研究之重要，决设历史语言研究所于广州，委任傅斯年与顾颉刚、杨振声为常务筹备委员”，以傅斯年为掌门人。这一“无中生有”（傅斯年语）的学术机构的正式设立，令学界人士为之侧目，即是神通广大的胡适都感到有些意外，因而戏称傅氏“狡兔二窟”。
1928年4月，国民政府决定改中华民国大学院中央研究院为国立中央研究院，成一独立研究机关，任命蔡元培为中央研究院院长，杨杏佛任总干事。下设各研究所及首任所长如下：
地质所李四光；天文所高鲁；气象所竺可桢；物理所丁燮（西）林；化学所王进；工程所周仁；社会科学所杨端六。
1928年10月14日，中央研究院历史语言研究所正式宣告成立，所址设在广州东山柏园。傅斯年辞去中山大学教职，应聘出任中央研究院历史语言研究所所长。这一抉择，是傅斯年人生旅程中一个重要的转捩点，也是中国史学异军突起的坐标系，接踵而来的，将是一个“开辟史学新天地”的伟大时代。
就在史语所成立之时，傅斯年与顾颉刚缘分已尽，开始出现裂痕与冲突。
傅、顾二人的矛盾表面上没有特殊的标志性事件供后人评断，据顾颉刚的女儿顾潮说，主要原因是两人的性格、志向不同。顾与傅在北大同窗时，谈及各人的理想与志向，顾谓最强者乃知识欲，傅斯年谓最强者乃政治欲。两人都有刚强的性格，傅斯年博学多才，极具办事才干，甚欲在学术界成为领袖人物，做出一番轰轰烈烈的大事业。但脾气暴躁，霸气十足，在各个方面想把顾氏压服，听命自己的调遣。而顾颉刚则倾心自己的学问，生性倔犟，不吃傅斯年那一套，曾声言只能做自己愿意做的事情，而不能听从任何人的指挥。于是二人关系越来越僵，终于酿成了不能合作之局。
1929年2月，顾颉刚趁中山大学领导人戴季陶、朱家骅不在校之际，携眷悄然离开了广州返回北平。同年9月受燕京大学之聘，出任历史系教授。随后，顾颉刚分别致信戴季陶、朱家骅，正式辞却中山大学教职。自此，顾颉刚彻底脱离了中大，中大失去了顾颉刚。而傅、顾二人天南地北，时聚时散，却是咫尺天涯，互不提携，终生再也没有一起共事。后来，傅斯年接替胡适在北大办文科研究所，曾想与顾颉刚重续旧缘，聘顾氏为北大研究所教授，但顾表示坚决不重做冯妇，为傅氏驱使，以免遭到压迫与征服的耻辱。傅斯年因失了面子，甚觉恼火，竟暴跳起来，并写信挖苦顾颉刚：“燕京有何可恋，岂先为亡国之准备乎？”顾颉刚阅信后则漠然置之，在日记上反讽曰：“我入燕京为功为罪，百年之后自有公评，不必辩也。中国学校聘外国教员亦多，岂此外国教员亦为作亡国之准备乎？”从此永未回头。顾颉刚出走后，作为中央研究院史语所所长的傅斯年，开始以他的霸气与超人的办事才能，四处网罗人才，并率先把目光投向了清华国学研究院陈寅恪、赵元任两位导师身上。