清朝末叶，清政府出于政治和军事上的需要，于清同治四年（1865年）在上海虹口地区，收购一家由美商科而开设的旗记铁厂而建江南制造局，为清军修造枪炮。同治六年，制造局迁址于上海城南高昌庙，分建各厂，需用钢料全赖进口。
光绪十六年（1890年），时任江南制造局总办刘麒祥向清政府申办炼钢厂，以求钢料自给。经南洋大臣曾国荃和北洋大臣李鸿章批准，同意建厂。从英国引进的1座3吨平炉先建于老厂房内；次年（1891年），3吨平炉建成试产，当年炼钢21701磅（近10吨）。头三年（1891～1893年），年产量分别为10吨、63吨、37吨，处于试产阶段。光绪二十年，产量增至342吨，仍与刘麒祥在向清政府申办炼钢厂报告中所提“每日可出钢三吨”之数，相距甚远。
在经历了多年的初创时期之后，从光绪二十、二十一年开始，江南制造局炼钢厂进入了一个规模宏大的扩展时期，使炼钢厂发生了根本的变化。新建占地27亩的厂区，使炼钢厂在制造局内自成体系；又从英国引进1座15吨平炉，使炼钢能力增加5倍；新从国外引进一批压钢、轧钢设备，改变了原来只炼钢不轧钢的生产结构。在引进的机械设施中，有2000吨水压机，直径914毫米初轧机、直径610毫米开坯机、直径457毫米和直径350毫米轧钢机，以及生产异型钢材的专用小轧机，还有众多的配套设施，其规模和实力之强，居于当时国内前列。这些设备陆续建成试产。光绪二十三年，炼钢厂的钢产量从上年的349吨猛增至2059吨，轧钢系统投产后，先后生产出方钢、圆钢、角钢、扁钢等型材，在初轧机上生产出钢板，在直径305毫米轧机上生产出薄钢片，小轧机上生产出制造枪枝所用的异型材。在这一基础上，本可大展宏图，大有作为，奈该厂的炼钢和轧材生产，仅限于满足制造局的需要，部分调拨给国内其他军工生产单位，并不投向市场，故一旦满足了自身的需要，钢产量即呈下降趋势，光绪二十四年即猛降至747吨，仅及上年产量的36.7%，从光绪二十五年至光绪二十八年的4年中，又进一步降至674吨、564吨、387吨和559吨。1903年，虽又出现了第二个高产年，钢产量达到1569吨，但正在此时，朝臣们却对江南制造局所生产的枪、炮发生异议和攻击，如两江总督张之洞即会同直隶总督袁世凯，于光绪二十九年二月十九日（1903年3月17日）。向清帝奏称：“该局所有机器，七年以前所造，系林明敦枪，乃外洋陈旧不用之式；两年以前所造，系快利炮，乃沪局臆造之式，亦不适用。故枪机新旧凑配，出数无多，炮机亦未完备，岁糜巨款，实为可惜！”“谕旨饬令各省军营，所用枪械宜归一律，经屡次互较，直至上年，始经该局定议，沪厂仿照鄂厂，一律改造小口径毛瑟快枪。唯沪厂枪机不能全备，必须兼以人工锉、磨，并非全系机器所成，故费工多，而出枪少，近来陆续添机，渐次整顿，每日仍只能出枪七枝，一年只能出枪二千余枝，既不合算，且于武备大局无裨，其炮厂所造车炮，亦不尽适用。”
事隔一年多，上海出版的《中外日报》以《论制造局》为题，于光绪三十年四月十九日、二十日、二十六日（1904年6月2日、3日和9日）分别载文，揭露和攻击江南制造局及刘麒祥的腐败无能。
江南制造局军工生产情况的不佳，使炼钢生产无法正常进行。光绪三十年，炼钢厂的钢产量又猛降至314吨，由此而进入了建厂后第二个生产下降的周期。
江南制造局炼钢厂，从光绪十七年首次出钢开始，至光绪三十年止，先后14年，累计炼钢7995吨，另加生钢近3吨，共7998吨；延至宣统三年（1911年）清皇朝被推翻时止，先后21年（1891～1911年），累计炼钢逾万吨。
二
上海光复后，因制造局易名，所属炼钢厂亦改为上海制造局炼钢厂。制造局及炼钢厂，在清政府管辖时期，其所需之经费，全从上海海关收入提取二成中拨付，遇炼钢厂规模性扩建时，还由户部另拨专款，作为基本建设投资，故经费来源有保证，制造局及炼钢厂的出品虽少，但仍能维持。自辛亥革命后，情况陡变，原由海关拨交的经费来源顿告断绝，政府又国库奇缺，无款可拨，使上海制造局及其炼钢厂在经济上陷入困境，靠借贷赊欠过日，至民国元年（1912年）3月止，各项积欠已近80万两银，工薪停发，债主上门，生产停顿。8月，情况进一步恶化，上海制造局总理李钟珏分别以个人和制造局名义，以“无米为炊，罗掘已尽，万难支持”，“钟珏以八月底截止，不再任事”之辞，电告陆军部，坚请辞职；与此同时，制造局内之同盟会会员俞惠民，亦始以个人名义，继与千余工人联合电呈陆军部，状告李钟珏，谓李“制造工程，本非所长”，“任用私人，滥动公款”。在内外交困的情况下，李钟珏请辞尚未获准即挂冠而去，东渡扶桑。制造局内一片混乱。后虽新委督理到任，裁撤12个处，精减大批人员，亦无法使制造局及炼钢厂能够稍有转机。经陆军部批准，是年12月15日，制造局及炼钢厂正式宣布停工。次年（1913年），在讨袁战争中，上海镇守使郑汝成驻重兵于上海制造局内，革命党人则组织敢死队，攻打甚烈。
在第一次世界大战（1914年8月至1918年11月）爆发前后，事关炼钢厂之前途，先有刘铎、李春湘以请愿书的方式向政府当局提出改良，建议将炼钢厂与军械厂分开，或官办，或官商合办，或独立经营，使炼钢厂“专属营业性质”，未获结果；后有上海制造局呈文陆军部，提出权宜之计，炼钢生产除确保军需外，“拟推广代造，兼及商界，藉以获取余利，添置机器，培养人才。将来军用额造增加，即可停止代造”。陆军部虽深表赞许，但又怕“舍本逐末”，妨碍军工生产，亦不了了之。故炼钢厂在第一次世界大战期间，未能趁西方国家销至中国的钢材锐减，市价猛涨之际，抓住机遇，以已较强之炼钢和轧钢能力，大力发展生产，而是抱残守缺，墨守成规，致使有些炼钢、轧钢设备因长期闲置不用自然损坏。在大战期间，炼钢厂虽恢复生产，但仅1座3吨平炉炼钢，又因受经费限制，额定“年炼钢三十炉”，出钢百吨而已。民国4年5月，炼钢124吨，而供各单位的用料仅23吨，累计库存竟多达1662吨，炼而压库，日后也就不需要多炼。民国6年5月，改名为上海兵工厂炼钢厂。自民国13年9月起的一年间，先后发生了三次江浙军阀混战，殃及上海兵工厂，成了双方争夺的焦点，抢走枪炮弹药，搬走机器设备，炸毁锅炉，破坏严重，炼钢生产亦无法进行。在江浙军阀混战之际，当时的执政府于民国14年1月15日发出命令，其中包括“上海兵工厂亦令即日停止军用工作”。2月3日，盘踞在上海兵工厂内的孙传芳部撤离，次日（4日）下午，该厂由上海市总商会各公团受命出面封查。之后，工厂的相当一部分职工被遣散。民国15年，上海兵工厂炼钢厂发起招商合办，因招股不成而作罢。民国16年3月北伐军克复上海，兵工厂即招集被遣散之工人，于4月1日恢复生产。炼钢厂虽亦复工，但两座平炉均已损坏，不经修复，已难以投入使用。
民国18年6月，炼钢厂与兵工厂脱钩，改名为上海炼钢厂，直属军政部兵工署管辖。因平炉未曾修复，只进行轧钢生产，为兵工厂“所制钢料、钢盂，完全取给于旧存毛坯”。从民国19年4月起，各兵工厂所需之钢料均由兵工署统一核拨，应付上海炼钢厂的价款，则由军需署代扣。历经年余，改由各兵工单位自行付款，汉阳、金陵等兵工厂，以种种理由要求减发、停发原订钢料，沪、济等厂又用料不多，致使上海炼钢厂在生产上、经济上陷入困境，呈文兵工署“呈请维持出品销路，并拨发各厂料款，以资救济。”同时，损坏的炼钢炉未能修复，而旧存钢料则日渐减少，时任上海炼钢厂厂长的周志宏，于民国19年6月以长达二千言的意见书呈兵工署，预先发出警报，并建议将该厂已沿用40年之久而所用铁料需“订购外洋”的酸性平炉，改建为可用国产生铁炼钢的碱性平炉。所拟方案，民国20年1月7日始获兵工署批准，因筹集经费等原因，拖至民国21年6月方动工改建，历时半年多，民国22年1月18日改建后的1座3吨碱性平炉投入试生产，“所出钢质，尚属合格”。在3吨平炉动工改建的同时（1932年6月），经兵工署商请海军部同意，向海军部所属江南造船所借得容积为1吨的小电炉1座。此后，遇平炉大、中修时，电炉即代替平炉炼钢。民国22年，由于平炉由酸性改为碱性获得成功，加上又有1座小电炉相助，全年炼钢679吨。
民国24年，上海炼钢厂的炼钢生产发生了很大的变化，从原来的生产毛钢为主转变为浇铸炸弹壳为主。年初，兵工署即下达指令，限在5月前分批完成浇铸280公斤、50公斤、18公斤炸弹壳3550颗。任务甫告完成，6月26日，又接到“在文到两个月内制造十八公斤飞机炸弹弹壳一万颗”的兵工署指令。仅此两批任务，即需钢水366吨，余钢尚不计在内。
民国26年7月7日，日本帝国主义发动侵华战争。继卢沟桥事变之后，8月13日又在上海爆发淞沪之战。8月20日起，上海炼钢厂成了敌机轰炸的一个目标，迫使工厂停工。不久，工厂即奉命内迁，先至汉阳，后转到重庆。
从辛亥革命成功，到抗日战争爆发炼钢厂迁往重庆时止，在近26年中，共炼钢近万吨。