南洋公学作为近代中国最早建立的新式高等学堂之一，为国家培养了大批的高级人才，其历史的进步意义及对于近代高等教育发展的贡献是不言而喻的。可是，南洋公学创办伊始，当年中国之大上海，既缺乏能够接受新式中高等教育的现成生源，又缺少可从事新式教育的现成师资，故不得不先从举办师范教育与小学教育入手。1897年4月8日，南洋公学师范院首批40名学生正式开学，附设外院学堂(相当实验小学)则首批招生120名。同年颁布《南洋公学章程》，何嗣焜(梅生)先生任公学总理，延请美国传教士波士顿大学毕业生福开森(John
.C.Ferguson)博士任公学监院，并负责规划设计上院(相当大学)与中院(相当中学)。
1898年春，中院开学，设译书院，始派留学生赴日本深造。1900年，上院开学。1901年，鉴于国家急需经济人才，设经济特科，延请蔡元培先生为主任教员，并开设政治特科与改设高等小学堂。中院第一届学生毕业，其中4人被选派赴英国留学。张元济(菊生)任总理不久便卸职，尔后本校数易总理或监督。1903年，添设高等商务科，高等小学第一届学生毕业。1904年，中院改称高等预科，本校改隶商部。1905年，本校易名为商部上海高等实业学堂。1906年，设商务专科与铁路专科，本校复改隶邮传部，易名为邮传部上海高等实业学堂。1907年，商务科第一届学生毕业。唐文治(蔚芝)先生到校任监督，苦心经营，整顿校务，学校日益发展。1908年，添设电机专科。1909年，中院及高等预科改为中学，铁路科第一届学生毕业。1911年，电机科第一届学生毕业。辛亥革命爆发，本校学生组织义勇军，积极响应上海起义。
辛亥革命后，学校进入了一个新的发展阶段，师生不仅致力学问，而且也更加关心国事。1912年，本校归交通部直辖，改名交通部上海工业专门学校，改铁路专科为土木专科、电机专科为电气机械专科。1915年，土木专科、电气机械专科，由三年制改为四年制本科。1916年，添设四年制铁路管理科，初具大学规模。1919年“五四”运动中，进步师生高举“外争国权，内除国贼”的大旗，走在游行示威队伍的前列。1920年，铁路管理科第一届学生毕业，唐文治校长因病辞职。
1921年，本校与唐山工专、北京邮电学院等合并，成立交通大学。交通部任命叶恭绰(誉虎)先生为校长，任命张铸(剑心)先生为交通大学上海学校主任、凌鸿勋(竹铭)先生为副主任。翌年，定四月八日“为交通大学成立纪念日”。三校又分立，本校改称交通部南洋大学，此后数易校长。1924年，本校归国留学生凌鸿勋先生受交通部之命为南洋大学校长，提出改良教务、增进为学生课外服务等方针。1925年，本科毕业生第一次授予学士学位。“五卅”惨案中，本校学生陈虞钦烈士被英国巡捕枪杀。1926年，创办工业研究所，本科第一次招收女学生。
1927年，蒋介石发动“四一二”政变后，南京政府接收本校，改校名为交通部第一交通大学，铁道管理科改称交通管理科。1928年2月，南京国民政府任命大学院院长蔡元培(孑民)先生兼任本校校长，为适应国家急缺专门人才的需要，将原来的三个专科，分别扩充为机械工程学院、电机工程学院与交通管理学院。同年11月，本校改隶铁道部，以沪校(上海本部)为总校，唐、平二校为分校，易名铁道部交通大学。同时改任铁道部部长孙科(哲生)先生兼任本校校长。1929年，改交通管理学院为铁道管理学院，重建土木工程学院。1930年，原工业研究所扩建并更名为交通大学研究所，下设材料、机械、电气、物理、化学、社会经济、交通、实业经济、统计、管理、编译等组。设立科学学院，下设数理化三系。同年10月，改任原副校长黎照寰(曜生)先生为校长。1931年，铁道管理学院改称管理学院。自此，五院一所，齐头并进，优势互补，步入稳固发展的时期。继承和弘扬了“求实学”、“务实业”的优良学风，使学校逐渐成为当时中国著名的高等学府。
同时，由于在这一时期，南京国民政府在形式上完成了对全国的统一，全国局势，特别是江浙一带相对比较稳定，国际交往也比较频繁，这一切都为交大的发展提供了良好的外部大环境。利用这一良机，本校在各个方面都得到了极大的发展，达到了解放前的巅峰时期。由于在工程教育方面的突出成就，本校在三十年代被喻为中国的“MIT”(MIT是美国麻省理工学院英文缩写形式，该学院以工程教育而闻名世界)。
