胡适的改革使得中国公学迎来了发展的黄金期。
“胡适对于中国公学的发展，我们不能不佩服；胡适对于中国公学的整顿，不算不尽力”，“如果胡先生能多做几年校长，再多尽一点儿力，将来把中公由较好的大学，升到世界著名的大学，也是意料中事”，这是当时学生对胡适治校的评价。
事实证明。胡适不但是个出色的学者，也是个优秀的管理者，不但学问做得好，官儿当得也得心应手。
说到了领导者，人们常用的赞誉之词常常是“率先垂范”、“事必躬亲”、“身先士卒”、“事无巨细”等等。
但是，胡适这个校长最被人称道的，却是对学校事务采取的无为而治的行事风格。
副校长杨亮功说：“胡先生对于学校行政常以‘无为而治’自嘲，实际上他是以无为而为，与自然主义教育家卢梭以不教而教同是一样的态度。胡先生只注意于学校的重要问题，付与各主管以事权，并为之排除困难，因此养成各人自动自发的工作精神。”
与杨亮功的评价相比，一位名叫陈咸森的学生讲得更透彻。他说，胡先生一贯主张无为而治，“这在当年我们做学生时还不大了解，直到三十年后在台湾看到胡先生的一篇‘无为而治’的文章，那篇文内说到艾森豪做哥伦比亚大学校长和做总统时两件故事，方才明了胡先生的‘无为而治’的深厚道理”。
这里说的艾森豪就是艾森豪威尔。第一个故事说的是艾森豪威尔担任哥伦比亚大学校长时，各部门领导都要前来拜访，汇报各自的工作。于是他每天要接见两三位院长或部门负责人。几天以后，他问副校长，像这样的人一共有多少，对方说共有63位。艾森豪威尔两手举过头顶高声喊道：“天呵！太多了！太多了！我当盟军统帅的时候，只接见三位将领。我完全相信这三个人。他们手下的将领，我从来不用过问。想不到我当一个大学校长，竟要接见63位负责人，他们谈的我不大懂，又说不到点子上，这对学校实在没有好处。”
另一个故事是说艾森豪威尔当总统时爱打高尔夫球，有一天白宫送来一份急件，助手替他准备了两份批示，一份“表示同意”，一份“表示不同意”。没想到他居然在两份文件上都签了字，并交代说，请副总统尼克松替我挑一个吧。
在许多人眼里，这两个故事是嘲笑艾森豪威尔的，但是胡适却从中看出民主的真谛。当时他讲这两个故事，是为蒋介石祝寿的。他的意思是要蒋介石学一学人家的风度，做一个“无智、无能、无为”的人，只有这样，才能“乘众势，御众智”。
胡适的这个观点对于很多人来说是非常陌生的。许多人一旦大权在握或负点责任，就死死抓住权力不放，好像所以让他当这个领导，是因为就他行，别人都不行。这样的领导人从来不懂得，一个合格的领导者的最大责任是尽可能的调动和发挥下属的聪明才智。他们也不懂得一个人智力和认识是有限的，“一个人就算浑身是铁能打几根钉”？对于领导者，所谓“不轻易做一件好事，正如不轻易做一件坏事”一样，应该成为每个领导人、特别是主要领导遵守的一条戒律。
这也是胡适初次与蒋介石见面，就把自己写的、阐述这个道理的《准南王书》送给对方的原因。
毫无疑问，对于一个领导者，无为而治是大智慧，甚至是最高的境界。
因为不能天天在学校，胡适每月只领100元车马费。朱经农过意不去，曾在信中关切地询问：“兄近日个人经济问题如何解决？闻兄在中国公学依然每月只领夫马费一百元，似不够用。上学期所定夫马费是一种过渡办法，似不应永远如此。今年你未在他校教书，仅此一百元安能度日？”
从这里，不难发现，胡适做人做事的原则。
胡适在中国公学，有一件非常重要的举措就是沟通文理。为了沟通文理，他亲自兼任文理学院院长，让有志于数理的人学点文史知识，有志于文史的人学点自然科学。事实证明，胡适的这一做法效果很好，比如吴健雄当年是数理系的学生，却肯在文科方面下很大功夫。有一次她还在胡适指导的作文课上获得100分，这件事不仅对吴健雄的影响很大，也成为胡适津津乐道的话题。
沟通文理不仅有利于提高学生的素质，而且还是涉及到教育的目的所在。所谓知识相关，各门知识是广泛联系，相互依赖的。如有些人所说，“过早接受专才教育，不仅会因为知识面狭窄而难成大器，还容易成为会说话的工具，不会思考的奴隶”。
胡适非常重视学生的读书学习。
他认为读书既要精又要博，他理想中的学者，既能博大，又能精深。精深的方面，是他的专门学问。博大的方面，是他的旁搜博览。博大要几乎无所不知，
在他看来，读书要精的秘诀在于“眼到，口到，心到，手到”。需知著书的人，他写每一个字都是反复推敲的，而且每个字又有很多的意义，眼一时不到，就很容易误解作者的意思，贻害很大。口到就是要多读，特别是不甚理解的地方，多读几遍效果很好。心到就是要用心考究每章每句每字意义如何，何以如此排章布节。手到的范围很广，它不仅包括做笔记、写心得，还包括查字典、做标记等，更重要的是，要通过手到这一手段把著书人的知识给彻底消化吸收。
关于这一点，胡适曾经举过这样一个例子：“你也会说‘进化’，他也会谈‘进化’，但你对于‘进化’这个观念的见解未必是很清楚的；也许只是一种道听途说，也许只是一种时髦的口号。这种知识算不得知识，更算不得是‘你的’识。……假使你翻了几天书之后，发愤动手，把你研究所得写成一篇读书札记，列举了：（一）生物学上的证据，（二）比较解剖学上的证据，（三）比较胚胎学上的证据，（四）地质学和古生物学上的证据，（五）考古学上的证据，（六）社会学和人类学上的证据。到这个时候，你所有关于‘进化’”的知识，经过了一番组织安排，这些知识方才可算是你自己的了。”
关于读书要博，胡适的观点是读书不博，则无法读书。经常读书的人，应该会有这样的经验，读到某处，总是理解不了，好像对某方面的知识有所欠缺，但当你想要补充这方面的知识时，又会发现新的欠缺，读书愈多，发现的欠缺愈多，即便不想博，也不得不博了，除非索性不读。
关于这一点，胡适也有个例子：“譬如读《诗经》，你若先读了北大出版的《歌谣周刊》，便觉得《诗经》好懂的多了；你若先读过社会学，人类学，你懂得更多了；你若先读过文字学，古音韵学，你懂得更多了；你若读过考古学，比较宗教学等，你懂得的更多了。”
作为实验主义的提倡者，他希望学生能够在学业上不断追求进步，常教导学生做学问要能不断发现问题，研究问题和解决问题。同时他也希望学生们毕业后不要放弃做学问。
胡适在《中国公学十八级毕业赠言》中说：“诸位毕业同学：你们现在要离开母校了，我没有什么礼物送给你们，只好送你们一句话罢。
“这一句话是：‘不要抛弃学问’。以前的功课也许有一大部分是为了这张毕业文凭，不得已而做的，从今以后，你们可以依自己的心愿去自由研究了。趁现在年富力强的时候，努力做一种专门的学问。少年是一去不复返的，等到精力衰时，要做学问也来不及了。即为吃饭计，学问决不会辜负人的。吃饭而不求学问，三五年之后，你们都要被后进少年淘汰掉的。到那时再想做点学问来补救，恐怕已经太晚了……
“易卜生说：‘你的最大责任是把你这块材料铸造成器。学问便是铸器的工具。抛弃了学问便是毁了你们自己。
“再会了！你们的母校眼睁睁地要看你们十年之后成什么器。”
杨亮功还回忆说：“胡先生在学校积极提倡学生写作，他认为这样可以引起学生读书兴趣。学校创办有《吴淞月刊》。当时学校教授中作家甚多，影响所及，学生方面亦创办有许多刊物如《野马》等。”
此外，胡适还非常支持学生自己创办的《中国公学三日刊》。1929年底，针对一些学生对于某一学生组织用“中国公学”名义办此报刊的疑问，胡适公开表示：私人组织可以用“中国公学”名称，并且说美国著名大学的刊物都是如此。他还强调：学校不会干涉《中国公学三日刊》的发展，学生会也不会干涉。
胡适还为该刊题写了1930年新年贺词：“种种从前，都成今我。莫更思量更悲哀。从今后，要那么收果，先那么栽。祝大家新年进步！”
胡适深知图书馆对于学习知识的重要性,他很早就与图书馆结下不解之缘。胡适留学美国时，对美国的图书馆产生了浓厚的兴趣。在康乃尔大学读书期间，胡适曾“作一书致图书馆馆长Ｈａｒｒｉｓ君，许添设汉籍事”。1914年１月，胡适在《留美学生年报》上发表《美国大学调查表》例言及《藏晖室杂录》。《杂录》第四部分对藏书30万册以上的美国大学图书馆概况做了统计。同年9月6日，胡适还游览了波士顿公共图书馆，十分欣赏该馆100余万册藏书，“任人观览，不取资”的做法。
胡适对美国的图书馆与中国的藏书楼之间的巨大差距感慨万分，他在1915年２月21日的日记中写道：“国无海军，不足耻也；国无陆军，不足耻也！国无大学，无公共藏书楼，无博物院，无美术馆乃可耻耳。我国人其洗此耻哉！”为此，他发下大愿“吾归国后，每至一地必提倡一公共藏书楼。在里则将建绩溪阅书社，在外则将建皖南藏书楼，安徽藏书楼，然后推而广之，乃提倡一中华民国国立藏书楼，以比之英之(大英博物馆)，法之(国家图书馆)，美之(国会图书馆)，亦报国之一端也。”
胡适认为建立图书馆是报效国家的一种方式，此后他便终生致力于推进中国的图书馆建设。
1922年7月6日，胡适与蒋梦麟一起就日本赠款用途拟定计划，其中第一条就是“设东方历史博物馆及图书馆”。
1925年4月，中华图书馆协会成立，胡适捐款以示支持，并担任了协会董事兼财政委员会委员、索引委员会书记。
1930年6月初，他在中国图书馆协会本年度年会的讲话中指出，良好的教师可遇不可求，图书馆则可求而可得。能够供给真正知识的，图书馆才是真正的教师。
他在中国公学期间，对设在上海的社会科学院图书馆进行了整顿扩充，每日到馆学生有百余人。同时，校图书馆一改以往无任何统计的积习，计划进行各项统计，包括各系学生借书统计表、借出各种书籍分类比较表、各年级学生借书比较表等，为图书馆的科学管理奠定了基础。
