辉山烈士陵园位于亳州市涡阳县城东３０公里的曹市镇辉山村，是为纪念新四军四师师长彭雪枫和西进中阵亡的四师十一旅官兵而兴建的。它始建于抗日战争末期，落成于解放战争初期，新中国成立后，几经修缮，保存至今。陵园布局严谨，气势恢宏，既是珍贵的爱国主义和革命传统教育基地，也是当年新四军四师与人民群众鱼水情深的历史见证。
１９４４年８月，为收复豫皖苏边区，按照党中央的指示，彭雪枫率十一旅及九旅主力挺进津浦路西。首战小朱庄，全歼日伪合流的王传授支队的三个团；再克夏邑八里庄，消灭了集伪、顽、匪于一身的李光明部。不幸的是，在八里庄战斗中，彭雪枫壮烈殉国，四师十一旅等主力部队官兵，有３００多人英勇牺牲。
为缅怀彭雪枫的光辉业绩，纪念西进以来牺牲的革命烈士，路西地委书记吴芝圃、军分区司令员张震、政委赖毅率十一旅在涡阳县龙山集休整时，顺应边区人民和部队官兵的愿望，决定建造烈士陵园。
陵园的地址就选在曹市集东灰山上。灰山是一个方圆约２０００平方米的山包，表土以下皆是青石，可以锻烧石灰，“灰山”之名即缘此而得。１９４５年５月２１日，四师十一旅三十团攻克日伪据点袁店集。战斗中我牺牲官兵２４人，就埋葬在灰山脚下。
经过５个月的紧张施工，一座巍峨壮观的革命烈士纪念塔屹立在灰山之巅。为彰扬英雄的业绩，激励后人们奋进，１９４５年１２月６日，雪涡县人民政府公告，将原“灰山”更名为“辉山”，一切与之相关的名称均从此更易。
辉山烈士陵园主体由烈士纪念塔、彭雪枫纪念碑及东西两个碑亭组成。纪念塔座北朝南，正向大门，高约１５米。塔基为石砌五角形，其中安葬着从山脚下迁移来的２４名烈士的尸骨。塔身呈四方立柱形，分五层。分层处小瓦走檐，四角挑起，正面镶嵌着整块约１０米高的青石条，上面镌刻着２１个金色大字“新四军第四师第十一旅涡北抗战殉国烈士纪念塔”。
纪念塔前的一块四方体碑刻有西进以来新四军四师阵亡的３１０名官兵的英名。
彭雪枫纪念碑是一座八柱顶立、八角飞翘的主碑亭。碑亭正面上方是题有“精忠报国”的红色金字匾额，两边立柱上是宿蒙县民众的挽联“忠于人民忠于阶级赤胆忠心长耿青天碧海；退却在后冲锋在前战斗英雄名赫万古千秋”。八面护栏面板上绘有《岳飞传》中的故事画面。碑亭中正面挂着彭雪枫师长的画像，前后立有两座碑，分别刻有彭雪枫师长的传略，毛泽东、刘少奇、朱德、彭德怀、陈毅共题的挽联：“雪枫同志千古二十年艰苦事业即将彻底完成忍看功绩辉煌英名永存一世忠贞是共产党人好榜样；千万里破碎河山正待从头收拾孰料血花飞溅为国牺牲满腔悲愤为中华民族悼英雄。”中共中央华中局的挽词以及淮北地区第二行政专员公署的碑文，四师十一旅旅长张震、赖毅、姚运良代表全体指战员题写的碑文。
彭雪枫纪念碑两侧是东碑亭和西碑亭，对称分布。东碑亭正面上方是四师十一旅敬献的匾额，上书“壮烈千秋”四个大字，左右两侧立柱题有雪涡县政府的挽联：“英雄事迹永垂不朽，民族浩气万世长存”。碑亭中立着三块碑记，分别为十一旅三十团和雪涡县政府、雪涡县青町区、青町区辉山乡敬立。
西碑亭正面上方是十一旅三十三团敬献的匾额，上书“民族之光”四个大字。左右两侧立柱上题有“为民族解放握紧枪杆虽殉国而名垂千古，为大众福利艰苦奋斗纵流血亦泽被江山”的挽词。碑亭护卫的三块碑记，分别为十一旅三十二团和宿蒙县政府、宿蒙县、白沙区、雪涡县、曹市区所立。
陵园大门按牌坊样式建造，高约７．５米。中门上方的匾额有两块，上下分别为朱德的题词：“新四军第四师第十一旅涡北抗战殉国烈士纪念：浩气长存”和毛泽东的题词：“新四军第四师第十一旅涡北抗战殉国烈士纪念：死难烈士万岁！”中门两边的对联是中共中央的挽词：“为人民而生为人民而死你们的事业永与人民永垂不朽；为胜利而来为胜利而去我们的任务是向胜利勇往直前。”东边门上方的匾额为中共雪涡县委敬献的“党军光荣”，西边门上方的匾额为涡北民众敬献的“永矢勿忘”。边门两侧的对联是中共雪涡县委的挽词：“因革命忠贞成革命英烈；惟人民军队是人民救星”。
大门两侧各立碑记一块，分别刻有雪涡县县长李晨撰写的《辉山烈士公墓落成跋》和雪涡县政府关于改“灰山”为“辉山”的《布告》。
１９４５年１２月３日，十一旅官兵、地方政府和民众７０００余人集会于辉山烈士陵园前，隆重召开追悼大会和陵园落成奠礼。十一旅政委赖毅主持大会并宣读了祭文，旅、团首长和地方政府、民众代表作了发言。接着，部队团级以上领导绕公墓一周，向烈士志哀。
１９４６年元旦，全部工程宣告竣工。
１９４６年底，国民党军队向豫皖苏边区大举进攻，辉山烈士陵园遭到严重破坏，牌坊、碑亭被推倒，石碑、匾额被敌人砸烂，还强迫地方民众在纪念塔塔基上凿眼，企图用炸药炸倒纪念塔。为了保护烈士纪念塔，百姓们采取软抗硬磨、拖延时日的办法，直到１９４７年元月，我军远道奔袭，打下涡阳城，地方党组织重返涡北，恢复建立人民政权，敌人的目的始终没有得逞。
１９４８年秋，我青町区区长丁名先带领地方民众对辉山烈士陵园进行清扫整理，把推倒、砸断的碑记用扒钉扒好重新树起，将破碎的碑记、匾额妥善收藏起来，补栽、扶植了毁坏的树木，伤痕累累的辉山烈士陵园又屹立在人们面前。
陵园因遭敌人破坏，又经风雨侵蚀，牌坊式大门、四个护碑亭已完全损毁，纪念塔也已残破倾斜。１９６４年，阜阳行署拨款１５０００元将辉山烈士陵园整修一新。清除了碑亭残垣，代以栽植松柏。
１９７９年，上级民政部门拨款２万元对陵园进行又一次维修。
１９９８年秋，为纪念新四军游击支队（四师的前身）东进６０周年、刘少奇诞辰１００周年，阜阳市委、涡阳县委组织专人对辉山烈士陵园进行再次维修，并设立“辉山烈士陵园纪念馆”。馆内展出了新四军游击支队与涡北人民团结抗战的历史图片，陈列着当年被国民党军队和地方反动派砸毁的碑记、匾额。
辉山烈士陵园建造于抗战时期，那时，战局动荡，经费短缺，建材匮乏，技术落后，地方民众怀着对党的一片深情，对抗日烈士的无比崇敬，甘冒生命危险，倾其家中所有，与新四军四师官兵同心协力共同建造起如此宏伟的烈士陵园，在当时不能不是一个奇迹。似这样在战争环境中建造的烈士陵园在亳州市是仅有的，在全省、全国也不很多。