吕梁市是山西省11个地级市之一，其名字的来源就是来自于纵贯全境的吕梁山。据年《山西地图集》的《山西地形》介绍：西部高原和山地区，在省境的西部，以吕梁山为骨干构成高原和山地地形，通称晋西高原。吕梁山，是由省境西北部的黑茶山、连枝山，以及西部中段的管涔山、云中山、关帝山、真武山、紫金山和龙门山等山峰组成，长约多公里，一般海拔米左右。关帝山是吕梁山的主峰，高达米，山上森林茂密，是我省著名的林区。
山西地形图及吕梁山
吕梁山是历史上有名的大山，著作于春秋战国时期的《禹贡》就有对它的记载，并且认为是大禹治水时曾经在这里经过：
吕梁山，在今山西汾州府永宁州东北一百里，与交城县接壤，即大禹治水所经处也。其山巨石崇竦，壁立千仞，河流激荡，震动天地。
《汾州府志山川》认为此山为天之脊骨：
其名骨脊，以太山在左，华山在右，常山为靠，嵩山为抱，衡山为朝。此山穹窿居中，为天地之骨脊，山半有寸厚蛤壳，揽舟大铁绳。
在《说文解字》中，“吕”就是脊骨的意思，而“梁”则是拱起的形状。因此从“骨脊山”得为吕梁山。
《钦定类书集成》中的吕梁山图
而以“吕梁”为名的吕梁市用这个名字的时间并不算长。今天的吕梁市区在明朝之前一直为离石县，并且还是石州、离石郡等州郡的治所，到明朝隆庆元年则被改为永宁州，附郭的离石县被撤销，历经清朝。民国初撤府州存县，永宁州被撤销，因与宁夏永宁县重名，又改回古名离石县。
清朝《永宁州志》中的地图及吕梁山
抗日战争时期，这里是晋绥边区首府，抗战结束后，为加强对晋绥南线作战的统一领导，在汾阳县杏花村成立了中共吕梁区党委、吕梁行署及吕梁军区，战争期间发生在这里的故事被创作成《吕梁英雄传》等文学及影视作品。新中国成立之后，吕梁区被撤销。后来又于年11月21日将隰县、大宁、蒲县、永和、石楼合并组建了吕梁县，年7月9日，原合并的4县全部恢复建置，吕梁县又被撤销。
成立吕梁市前后的对比地图
10年后的年，为加强战备工作，国务院[]25号文件批复山西省革命委员会：同意山西省革命委员会关于恢复成立吕梁地区、方山县，成立交口县、娄烦县的调整报告。“将晋中地区划分为晋中和吕梁两个地区，并将忻县地区的兴县、岚县、娄烦三个县和临汾地区石楼县划归吕梁地区。吕梁地区辖兴县、岚县、娄烦、石楼、临县、方山、交城、离石、汾阳、文水、孝义、交口、中阳共十三县和一个离石郊区。地区革委会驻离石县城。”年10月23日，吕梁“撤地设市”，原离石县级市成为了吕梁的市辖区。
另外，吕梁山不只存在于山西省，在江苏省徐州市以南也有一座吕梁山，如今开辟成徐州市吕梁山风景区。
徐州“吕梁山”和山西“吕梁山”的得名并不相同。在西汉时徐州吕梁山附近为吕县、吕侯国，北魏郦道元《水经注》卷二十五载：
“泗水之上有石梁焉，故曰吕梁也……悬涛嘣奔，实为泗险，孔子所谓鱼鳖不能游。又云，悬水三十仞，流沫九十里。”
西汉时的吕县
宋代王应麟所著的《通鉴地理通释》记载：“泗水至吕县，积石为梁，故号吕梁。”以吕梁山所建的风景区被誉为“徐州市的后花园”，面积达.22平方公里。在古代这里以盛产奇石著称，在《禹贡》中就有徐州上贡“泗滨浮馨”的记录，《枸橼扁》也记载载“泗水之滨多美石”。
道光年间《铜山县志》里的吕梁山
徐州的吕梁山和山西的相比，无论是高度和规模上都远远不能相比，但是在明朝时，这里消息却时常能放到皇帝的龙书案上，其原因就是位于吕梁山下的“吕梁洪”。
“洪”是因为河流受两侧山地所限，河道狭窄，形成的急流。吕梁洪四周多山，河床不易摆动。文天祥的诗《彭城行》中就有“连山四周合，吕梁贯其中”。吕梁洪分为上下二洪，其位置在今天铜山县吕梁乡上洪村至下洪村一带，绵亘七里多。
清朝所绘几幅运河、黄河图中的徐州府吕梁洪
在吕梁山旁边形成吕梁洪的河流在金朝之前是泗水，而金朝明昌中（年）之后则因为黄河改道南流入黄海，夺泗水、淮水河道，成为了黄河。但是不管泗水还是黄河，这段河道一直就是重要的运输通道。
今天的泗水已经声名不显，但是春秋时期，在今天的山东金乡泗水河道开挖了一条到达定陶的人工运河，这条运河因通过山东菏泽而被称作“荷水”。有了这段运河，就把钱塘江、长江、淮河、黄河、济水、泗水、沂水七大水系连接了起来，使得这些河流共同组成了我国历史上第一条贯穿南北的运河。
泗水、荷水、济水相连示意图
吴王夫差就是沿着这条运河从江南到达的山东南部，北伐齐国，开始争霸中原。而越国相国、上将军范蠡在帮助越王勾践复国后，也是通过这条运河从江南到山东定陶隐居，并利用顺畅的水路经商，成为了举世闻名的“陶朱公”。此时，吕梁洪就已经是著名的险滩了，在史志中有“自汉唐来，粮运皆避之”的说法。
黄河夺泗水河道后，吕梁洪又成为黄河上的险关，并且因为黄河水量远较泗水更大，因此险滩处水流更为湍急险恶，成为是南北漕运通道上的主要障碍。元朝赵孟在《吕梁洪关尉庙碑记》中就形容过船只经过吕梁洪时的艰难：“……舟行至此，百篙枝柱，负缆之夫流汗至地，进以尺寸数，其难也乃几于登天，舟中之人常号呼假助于神明。”嘉靖《吕梁洪志》称“舟船逆流而上非常艰难，几乎以尺寸计。”
明朝的徐州及吕梁山、吕梁洪，以及运河
明朝永乐皇帝迁都北京以后，漕运更成为国家的命脉，运河作为南北漕运的唯一通道，吕梁洪就成了整个大运河的咽喉所在，每年经过这里北上的漕船多达万余艘，运送漕粮余万石。
由于明朝的运河在这一段为借黄行运，吕梁洪又位于黄运交汇之处，黄河的淤、徙、决对吕梁影响很大，往往导致决溢或水流浅涩。因此吕梁洪一带的漕运通道的畅通与否就时刻受到皇帝的