一位历史学家说过，洋务运动早期，天津兴办新式教育主要是创办军事技术学堂和一些专门学堂。这些学堂培养了一批又一批的技术人才和军事人才，其中以北洋水师学堂最为出色，培养的人才多、水平高，成为北方海军教育基地和近代文明的窗口，并为我国的近代基础教育、科技教育和军事培养等方面提供了新的模式，为改革旧教育制度提供了借鉴。
中国第一所具有国际水准的海军军官学校——天津北洋水师学堂是1880年8月19日（清光绪六年七月十四日）经直隶总督兼北洋大臣李鸿章奏请朝廷，于1881年8月（清光绪七年七月）正式落成的。校址选择在天津城东八里、大直沽东北的东机器局之旁。创办期由吴赞诚奉旨就任天津水师学堂的总办，因身体不佳，在学堂即将竣工时，李鸿章上奏推举吴仲翔接任天津水师学堂的总办。同年，著名启蒙思想家严复应李鸿章之招，自福建船政局调津任天津水师学堂总教习。地点在城东贾家沽道机器局内（今河东区东局子一带）。
据清代张焘在《津门杂记》中描述：该校环境优美，“堂室宏敞整齐，不下一百余椽。楼台掩映，花木参差，藏修游息之所无一不备。另有观星台一座，以备学习天文者登高测望，可谓别开生面矣。”水师学堂设有驾驶、管轮两个专业。开学之初学额未满，一年后对招生章程作了修改，主要是放宽了招生年龄，特别是助学金由每月银一两提高到八两，使生源大增。该校学制为五年，主要课程有：英语、地舆图说、算学至开平方、立方、几何原本前六卷、代数及造对数表法、平弧三角法、驾驶诸法、测量天象、推经纬度法、重学、化学、格致等20余门西学课程,总教习为曾赴英留学归国的严复。在他们的严格管理下，北洋水师学堂教学水平较高，当时曾有“若有能文佳子弟，及时送入水师堂”的赞语，学堂内的营务处是北洋海军的办公地点，“衙署宏深，堂庑轩敞”；为接待国外海军将官“过津憩息”，另建有“迎宾馆”两幢，“楼阁峥嵘，美轮美奂，殊耀外观……屋中一切器具，华丽整洁，皆选购西国精良之品。”水师学堂确实起了“开北方风气之先，立中国兵舰之本”的作用 。为评估天津水师学堂的教学水平，李鸿章从欧洲各著名海军院校请来一批教官进行实地考察，得出的结论是：“比起欧洲各海军院校毫不逊色”。像著名教育家、南开大学创办人张伯苓、武昌起义时的鄂军督军、中华民国首任副总统黎元洪，以及掌握海军技术的高层次人才郑汝成、王劭廉、温世霖等，都是该校的毕业生。
撩开历史的帷幔，拂去岁月的尘埃。据当时的史料记载，在北洋水师的主力舰艇中，都有天津北洋水师学堂的学生在任职，如“济远”舰鱼雷大副穆晋书(天津人，又在天津水师学堂毕业)、鱼雷二副杨建洛、驾驶二副黄祖莲、学生黄承勋；“经远”舰驾驶二副陈京莹、枪炮二副韩锦、三管轮王举贤；“来远”舰鱼雷大副徐希颜、船械三副蔡灏元，甲午战前调任“广丙”驾驶二副。在大家广为熟知的邓世昌统率的“致远”舰中，天津学生较多。“致远”舰帮带大副陈金揆、鱼雷大副薛振声、“致远”鱼雷二副黄乃谟、鱼雷三副杨澄海、船械三副谭英杰，这些校中学友，军中同船，更是在海战中奋力歼敌壮烈殉国。而“致远”船械三副郑纶这位天津水师学堂的毕业生，在海战后获救，在清朝末期重建海军时任“江利”舰管带，民国时历任海军军衡长、南京海军军官学校校长、南京雷电枪炮学校校长等职，成为了中国近代海军中一位重要人物。“靖远”舰驾驶二副祁凤仪、枪炮二副洪桐书、船械三副温朝仪、船械三副郑祖彝这些天津水师学堂毕业生，在海战中也是英勇拼杀，在中国近代海军史上书写了浓墨重彩的一笔。船械三副郑祖彝清末重建海军时任舰队一等参谋官，民国时曾任烟台海军学校校长，为后来的中国海军培养了一批又一批人才。
北洋水师学堂中还有一位不得不提的学生，那就是我国近代著名教育家、思想家，南开中学、南开大学的创始人——张伯苓先生。1891年，年仅十五岁的张伯苓以优异的成绩考入了位于天津的北洋水师学堂。这所新式学堂可以说为张伯苓等学子们开启了生命中的另外一扇大门，让他们看到了更为广阔的世界。张伯苓也确实接触到了与以往大为迥异的生活方式和教育内容，由此开始了接受新式教育和西方思想的人生历程。张伯苓自幼家境贫寒，生活坎坷，对国家危难更是有一番深刻的体验，自然也心存报国大志，不愿落于人后。因此，在天津北洋水师学堂学习，将来为保家卫国尽一份力量，成为幼年张伯苓的人生目标。对于张伯苓来说，在北洋水师学堂的学习生活，成为其人生旅程中一笔十分丰厚的财富，也为他日后的创业和发展奠定了坚实的基础。
北洋水师学堂的教育内容和教学方式，尽管只是将西学知识和教育方法初步移植到课堂中来，但是对于像张伯苓这样以前从未接触过外来文化的学生而言，不啻是一种前所未有的全新体验。张伯苓抓紧每一分每一秒的时间，如饥似渴地汲取与传统儒家文化大相径庭的西学知识，奋发努力，认真学习。他在每年春、夏、冬三次小考中的成绩都非常优秀，而一年一度的秋季大考也多是名列前茅，十试九冠。除了文化知识考试成绩优异之外，张伯苓的体育成绩也非常不错。他尤其擅长爬竿，别看他那时个头不高，但是爬杆速度极快，在师生之中颇有几分名气。1895年，张伯苓以优异的成绩结束了各门课程的学习，成为北洋水师学堂航海科第五届毕业生。
1900年（清光绪二十六年）八国联军入侵天津。6月17日凌晨，侵略军攻陷了大沽口炮台，接着将大批人马开进了天津。27日早晨，以俄军为主的一支部队，倾泻无数炮弹，将创建于1868年的天津机器局随之成为战场，机器局城垣内的水师学堂连同其所在的机器局均毁于战火。至此，一座投资巨大、苦心经营30余年的机器局和经营20年的水师学堂全部毁于外国列强之手，先是俄军占领；继又成为法军营盘；再后来被日军盘踞；日本投降后，又由美海军陆战队接管；直到1947年7月美军撤离，这块土地才回到国人手中。如今，这里是中国人民解放军运输学院的所在地。