1926年12月，傅斯年在回聊城拜望老母，并小住时日后，携胞弟傅斯严来到广州中山大学应聘出任文科学长(后改称文学院长)暨国文、史学两系主任。
这是傅斯年与民国时期学界最有影响的重量级人物朱家骅相见、交往的开始。二人亦建立了深厚的友谊。尽管后来一个从政，一个是亦官亦学，走着不尽相同的道路，但人生际遇把他们紧紧地连在一起。
傅斯年到中山大学上任不久，朱家骅便发现此公为人做事"磊落轩昂，自负才气，不可一世。"执笔为文"雄辞宏辩，如骏马之奔驰，箕踞放谈，怪巧瑰琦，常目空天下士"，并以过人的胆识、才气加霸气，主动帮助朱氏筹划校务。
在傅的策划和主持下，文学院很快增聘了如吴梅、丁山、罗常培、顾颉刚、杨振声、何思源、汪敬熙、商承祚、珂罗掘伦(即高本汉，瑞典著名汉学家)、史禄国(俄国人类学家)等当时学界大牌与 名流，担任教授或通信教授。中山大学由此声名鹊起。
令人扼腕的是，这种大好局面没有维持多久。由于傅斯年、顾颉刚与鲁迅(时任中山大学教务主任兼中文系主任)三人之间的人事纷争，如同水火，鲁迅愤而辞职，于1927年4月21日携许广平离开广州，赴上海开始了公开同居生活。
1928年4月，中央研究院历史语言研究所正式成立，所址设在广州东山柏园。傅辞去中山大学教职，应聘出任首任所长。这一抉择，是 傅斯年人生旅程中的一个重要转捩点，也是中国史学异军突起的坐标系，接踵而来的，将是一个"开辟史学新天地"的时代。
首先，傅斯年凭着自己非凡的人脉关系，网罗到陈寅恪、赵元任、李济三位盛极一时的"海龟"，分别出任中央研究院史语所历史、语言、考古组(通称一组、二组、三组)主任。这一年，傅斯年33岁，李济33岁，赵元任37岁，陈寅恪38岁。
同陈寅恪一样，作为学术大鳄的傅斯年，尽管游学欧洲七年，却是为学问而学问，没有弄到一顶硕士或博士帽子，但凭借其出众的学识与大气磅礴的组织能力，受到学术界普遍的钦佩。他不但具有雄厚的国学根基，对于欧洲近代发展的历史学、语言学、心理学、哲学以及科学都有彻底的认识。
傅很快为第一组找到了内阁大库档案，指定了汉简与敦煌材料的研究范围;为第三组划定了安阳殷墟与洛阳的调查。二组的语言调查工作也相应开展起来。
当时心高气傲的傅斯年崇尚的是胡适、陈源等欧美派的"海龟"，对那些未跨出国门即在圈内成名成家的"泥腿子"、"土包子"或"土鳖"之类人物不屑一顾，倘为了工作或其他关系，双方不得不接触时，傅亦经常用英文或中英文混杂的言辞与对方讲话，借以戏弄不懂英语的土包子们。这在他对待金石学家的"大老土"马衡的态度上，尤为出格。
但作为留洋的"海龟"，总在一些土包子面前呜哩哇啦地说一些鸟语，总让局外人感到有显摆之嫌，尽管毫无恶意，但令听者感觉不怎么舒服。1945年7月，傅斯年一行抵达延安对中共领导人进行访问，在和中共领袖、当年的北大图书馆管理员毛泽东长谈时，傅斯年似乎没有用中英文混合的词汇来应对毛。究其原因，此时的毛已不再是当年那个月薪只有8元大洋的北大图书馆管理员了。见人下菜碟，傅斯年也未能免俗。
毛在北大图书馆时，不仅被上司张申府训斥，还曾被当时的学生傅斯年打了一记耳光。毛于延安时同斯诺自述回忆说:"由于我的职位低下，人们都不愿同我来往。我的职责中有一项是登记来图书馆读报的人的姓名，可是他们大多数不把我当人看待。在那些来看报的人当中，我认出了一些新文化运动的著名领导者的名字，如傅斯年、罗家伦等等，我对他们抱有强烈的兴趣。我曾经试图同他们交谈政治和文化问题，可是他们都是些大忙人，没有时间听一个图书馆助理员讲南方土话。"
由中央研究院史语所主持，从1928年开始的殷墟发掘，共进行了九年十五次，出土有字甲骨24918片，另有大量头骨、陶器、玉器、青铜器等器物出土，发掘规模之大，牵涉人员之多，收获之丰，前所未有，在世界考古史上亦属罕见。这一创世纪的伟大成就，"在规模上与重要性上只有周口店的研究可以与之相比，但殷墟在中国历史研究上的重要性是无匹的"。