吕梁市各县古称在不同历史时期有不同叫法，具体如下：
春秋战国时期，吕梁有屈邑、平陵邑、中阳邑及瓜衍县等。韩、赵、魏“三家分晋”后，吕梁为赵国境域，境内设有中阳、兹氏、大陵等。
秦庄襄王四年（前246）设太原郡后，吕梁遂为太原郡境域，设有大陵、兹氏等县。汉初，吕梁仍为太原郡境域，汉武帝元朔四年（前125年）分设西河郡后，吕梁分属西河、太原、平阳三郡。其中，大陵、平陶、兹氏为太原郡辖县；蔺、皋狼、中阳、离石、土军、隰成、临水为西河郡辖县；蒲子县为平阳郡辖县。王莽代汉后，兹氏县改兹同，大陵县改大宁，平陶县改多穰，临水县改监水，东汉始立后各县遂复旧名。
三国初分，吕梁为魏国境域，黄初二年（公元221年）设置西河郡，治兹氏县，辖离石、中阳等县；大陵、平陶二县仍属太原郡，蒲子县仍为平阳郡辖县。西晋时，吕梁境内各县分属于西河国和太原国，属县未变，仅兹氏县改隰城。
北魏初立，吕梁为太原郡境域，设置有大陵、平陶、兹氏等县，天兴初增设离石镇，延和三年（公元434年）设吐京镇，太平真君九年（公元448年），吐京镇下设岭东、岭西二县，平陶县移出区境，大陵县改受阳。
明代，除石楼属隰州外，其余州县归太原府，汾州辖孝义，石州辖宁乡；1595年汾州升府，增设汾阳县，原太原府相关州县、临县、永宁州以及宁乡、中阳等划入汾州府，府治在汾阳县城；1612年石楼县也改属汾州府，清沿明制。民国开局，1912年撤汾州府，永宁州改县；1914年永宁改离石，宁乡改中阳；1918年增设方山。
