胡适13岁时，冯顺弟毅然将他送往上海求学，对于胡适来说。这当然是他人生极为关键的一步。
微州世代相传有一句俗谚:“前世不曾修，出世到徽州。养到十二岁，爷娘把外丢。”这里的“把外丢”是送男孩出外学徒经商，也可以说是外出谋生。胡适是不一样的，是外出求学。比起绝大多数的徽州男儿，胡适要幸运得多。
但胡适能外出求学，并非易事。说是他母亲的“决定”，其实只是他母亲决定了出门的具体行程，在让不让胡适出门去上海念书这个问题上，家庭里是有过一番讨论的。
据胡适自已的回忆:“我十一岁的时二哥和三哥都在家，有一天我母亲问他们道：‘今年十ー岁了、你老子叫他念念得出吗？’二哥和三哥始终没有说什么，……她不敢得罪他们，因为一家的权全在二哥的手里。我若出门求学是要靠他供给学费的。”
那个时候，胡适这一大家子人的生活，主要是依靠在外经商的他的二哥。
有书这样写道：“一天，他（胡适二哥）对母说：‘我想带弟到上海读书，未知放心否’母说：‘好，哥哥带弟弟外出读书，我哪有不放心的通理呢’于是就做了决定。”胡适说这种说法很轻松，但很不可靠。肯定的说，他的二哥对此是很不情愿的。
如胡适所说：“二与三的看法是一样的，只不过三是轻地表示了否定，二哥因家庭中举足轻重的地位不可不谨慎一些，故尔他‘始终没有说什么’，母亲是没有决定权的，她提出这个建议心里便是战兢兢的，她完全知道二哥哥的意图，但仍是硬者头皮提出来了。”
胡适母亲认定这是决定胡适未来前途的关键一举。
其实，胡适出门上海求学原不算是什么过分要求。父亲在世时，其二哥三哥都出门到上海求学过，都进过后来胡适进的那所“梅溪书院”，都做过上海南洋公学的师范生，都受过良好的现代教育。这在一乡绅兼官僚的家庭里原是一件不用讨论的事，只是其父亲死后，大梁倒下，家庭财政发生危机，故尔小儿子胡适的出门便成了问题。
胡适的二哥包括三哥应该是考虑到这一层，似乎也不应反对胡适出门去上海，尽管已经拮据的家里还要拿出一部分钱来供胡适交纳学费与饭费。在其二哥点了头的前提下，他母亲才敢“定”胡适搭三哥看病的伴一起去上海。
在决定胡适出门去上海求学的同时，母亲又作出了项相应的重大决定:为胡适包办了婚烟一一与江冬秀缔结了婚约。胡适、江冬秀的婚姻是双方的两位母亲共同拍板的，拍板的时间恐怕便是江夫人吕贤英到中屯亲自相看了胡适之后。
胡适《新婚杂诗》之二:“回首十四年前初春冷雨，中村(屯)箫鼓，有个人来看女婿。匆匆别后，便轻将爱女相许。”正指的是这次历史性的会见与决定。从这首诗最后几句“到如今待双双登堂拜母，只剩得荒草新坟，斜阳凄楚！最伤心，不堪重听，灯前人诉，阿母临终语”来看，胡适对他的岳母还是怀有一腔敬意与歉意的，尽管他对这桩婚姻并不是十分满意。
胡适说：“她只有我一个儿子，只因为爱我太深，望我太切，所以她硬起心肠，看我出门时，不曾掉一滴眼泪。”
慈母的爱已经不能再荫庇自已的儿子，不能亲自在儿子的社会奋斗与入世挣扎中帮他忙了，她只能默默地向天祈祷，只能无声地等候，等候他的儿子成就他老子那样的事业的一天。
胡适终于走出了徽州的层层峦叠，告别了上庄的绿水青山、田垄村舍、石桥水碓，告别了他家的“八字门与“来新书屋”沿着脚下的石板大路一步步走向一个陌生广漠的新世界。去寻找他自己的灿烂光明的人世前程，去完成他自己轰轰烈烈的历史使命。然而这时刻，胡适对徽州外面的那个世界几乎是一无所知。
告别了母亲和家乡，跟随他的三哥，到上海去求学。他身穿蓝呢夹袍，外罩绛色大袖马褂，脑后一条小辫子，用红头绳扎着，跷跷的拖在背后，完全是一副地道的乡里土少爷打扮。当年由绩溪上庄出门，只能步行。他们经逍遥崖、江南第一关、栈岭，沿新安江、富春江而下，至余杭乘小船，走了七天七夜才到杭州；然后乘火车，才到十里洋场的大上海。这个乡巴佬要在那里住下，读书，寻求那被高山崇岭封闭着的家乡所不能梦想的“新学”。
1904年春二月间，胡适随三哥嗣到了上海，暂住在自己家开的“公义油栈”里。三哥开始找医生治疗他的肺痨，胡适则进了“梅溪学堂”当学生。
“梅溪学堂”校址在上海旧城(华界)老西门里蓬莱路，距上海文庙不远。他进的这个梅溪学堂。是他父亲生平最佩服的一个朋友张焕纶(经甫)先生创办的。
胡适父亲胡传在上海求学期间与张焕纶切磋砥砺，最为莫逆，生平也深深敬佩张焕纶的人品胸襟。故尔曾将自己的儿子嗣种、嗣送来“梅溪学堂”(当时称“梅溪书院”)进学，现在又轮到他的小儿子胡适了。
胡适称张焕纶为中国“提倡新教育最早的人”、“新教育的老先锋”，张焕纶的一句名言“千万不要仅仅做个自了汉”，曾影响了无数的学生，胡适在许多场合都提到“不做自了汉”的人生宗旨，宣传他人生要对自己负责、对社会负责的一贯主张。
直到胡适晚年，还有一个刚满二十岁的青年张宝乐满怀深情向他汇报“不做自了汉”这句话对他人生的巨大影响力。由于张焕纶与胡传的深交，胡传死后，张焕纶为他的四个儿子代撰了一篇《胡铁花先生家传》，胪列胡传生平甚详。
然而张焕纶显然没有对老朋友的小儿子这个当时名叫胡洪的乡下来的新生给于足够的重视，胡只见过他一回，那就是刚进学堂时参拜叩见的那回。张焕纶不久就死了。他没来得及在自己办的学堂里给胡适些特殊的照顾与关怀便死了。
那时是清朝末年，刚刚废科举，兴学校。这梅溪学堂课程还很不完备，只有国文、算学、英文三门。胡适因为不懂上海话，又不曾“开笔”做文章，所以暂时编在第五班，差不多是最低的一班。
但胡适在家乡已经读了许多古书。现在进五班，国文读《蒙学读本》，他自然不费吹灰之力，正好可以默默地用全力专攻他没有学过的英文和算学。
刚到上海时，胡适说话与穿着都很土气，第一天入学引来了许多学生围观。但是6个星期后，胡适崭露头角的机会来了。
这五班教国文的沈先生，应该是没瞧得起浅近的《蒙学读本》，事先准备不足。这一天，讲到读本里的一段引文：“传曰，二人同心，其利断金。同心之言，其臭如兰。”
沈先生随口说这个“传”就是《左传》，引文是《左传》上的话。胡适听到这里，心想，这不讲错了吗？然而，他毕竟刚从乡里来，不敢冒失；从母亲那里也学得了一点忍耐的好脾气。直等到先生讲完之后，他才拿着课本，走到讲台那儿去，用半生不熟的上海话，低声对沈先生说，这个“传曰”是《易经》里的《系辞传》，不是《左传》。先生用惊异的目光，望着这个土里土气的乡巴佬，脸也有些红了。
于是，发生了下面的对话：
“侬读过《易经》?”先生问。
“读过。”
“阿曾读过别样经书?”
“读过《诗经》、《书经》、《礼记》。”
“做过文章吗?”
“没有。”
“我出个题目，拨侬做做试试看。”先生出了“孝弟说”的题目，胡适回到座位上，勉强写了一百余字。先生看了，点点头，说：“侬跟我来!”
胡适卷起书包，跟着沈先生下了楼，走到第二班的课堂。沈先生对那班里的顾先生说了几句话，顾先生便叫胡适坐在最后一排的椅子上。这时他才明白，自己已经是第二班的学生了，一天之中，他竟跳了三班!
在这里，做为学生的胡适，其给先生提不同意见的方式方法肯定是值得肯定的。试想，如果胡适是当众，而不是“直等到先生讲完之后，他才拿着课本，走到讲台那儿去，用半生不熟的上海话，低声对沈先生说”，事情会是怎样呢？
但是，更值得褒扬的，甚至应该大的，是这位沈先生。老师出错也是很难免，但能做到沈先生这样的胸怀若谷，这样的从善如流，却是很难很难的。
试想，如果沈先生是一位掩过饰非之人，事情又会是怎样呢？
小小年纪的胡适，这个时候应该是很得意，他满心高兴，坐下来凝神听课。先生却没有讲书。抬头一看，黑板上写着两个作文题目，原来今天这个二班上的是作文课。
顾先生在黑板上出了两个作文题，一个是论说题:《原日本之所由强》，另一个是经义题:《古之为关也将以御暴，今之为关也将以为暴)
“经义题”是科举考试做八股文的题目，胡适没有学过，不会做。“论题”虽然可以敷衍，但那个“日本”，在天南还是在海北呢?他也不大清楚，怎么做呢?刚刚升到这个班里，他既不敢请教先生，同学中又没有一个熟人，在乡里读的那些古书也帮不上忙。他心里急得不得了，以至暗自埋怨沈先生不该把他升得这么高，这么快。