山西省汾陽醫院創建于1889年，前身是美國基都教會華北公理會創辦的教會醫院。醫院建院初期，先后用名“公理會汾陽宏濟施醫院”、“汾州醫院”。1949年9月，汾陽醫院被確定為省立醫院之一。1951年4月15日，醫院由山西省人民政府接管，命名為“山西省立汾陽醫院”。1958年，汾陽醫院下放歸汾陽縣領導，改稱“汾陽縣中心人民醫院”。1982年10月14日，山西省人民政府決定，將汾陽醫院改為呂梁地區第二人民醫院，1983年1月1日，醫院升格為呂梁地區第二人民醫院，歸呂梁行署領導。1985年6月，根據國務院和省政府關于“歷史悠久、曾有國際交往的學校、醫院應恢復原名，以利開放和外事往來”的精神，經呂梁行署批準，“呂梁地區第二人民醫院”更名“山西省汾陽醫院”，隸屬關系不變。

　　汾陽醫院歷經130余年傳承，現已發展成為一所集醫療、教學、科研、預防保健、康復為一體的三級甲等綜合醫院。醫院占地面積7.76萬平方米，建筑面積12.16萬平方米，編制床位1100張，開放床位1155張，設臨床、醫技科室56個，行政職能科室31個。其中省級重點學科3個、省級重點建設學科3個，省級重點建設專科2個，省市共建重點學科3個，山西醫科大學重點培育學科1個;醫院現有職工1726人(其中在編職工827人)，其中高級職稱426人，山西醫科大學碩士生導師24名，博士、碩士165人，山西省百千萬衛生高端領軍人才2人，山西省百千萬衛生骨干精英人才26名，三晉英才“拔尖骨干人才”5名、“青年優秀人才”5名;醫院年門診47萬余人次，住院3.8萬余人次。目前，是呂梁市專業最全、設備最先進、規模最大的醫院。是山西醫科大學直屬附屬醫院，是國家衛生健康委指定的中南大學湘雅醫院、中日友好醫院幫扶單位，國家衛健委腦卒中篩查防治基地，國家首批住院醫師規范化培訓基地和全科醫師培訓基地。

　　醫院主要承擔汾陽市、孝義市、交城縣、交口縣、石樓縣、中陽縣、文水縣、離石區等縣、市的醫療救治、預防保健任務，另外還有平遙縣、介休市、隰縣、汾西縣等周邊縣市患者慕名而來，覆蓋人口約300余萬。

　　1976年唐山地震、2008年汶川地震、2010年玉樹地震、2020年湖北新冠肺炎疫情及2022年上海疫情均派出醫療隊;2003 年的非典疫情、2006年乙腦疫情、2009年和2014年甲型H1N1流感疫情、2014年11月麻疹疫情、2020年的新冠疫情，汾陽醫院作為呂梁市唯一一家定點醫院全程參與疾病的診治，均取得患者零死亡的、醫護人員零感染的好成績;另外，醫院在2008—2009年和2017—2018年分別派出4名醫生和1名醫生在吉布提、喀麥隆、多哥進行醫療援助，今年，醫院又派出6名醫生作為整體援助單位赴多哥進行為期一年的醫療援助。

　　全院干部職工恪守“厚德、精醫、自強、致遠”的院訓，以“恪盡職守、精益求精、傳承歷史、廣濟社會”醫院精神為指導，以“腳踏實地、雷厲風行、勤學不懈、精益求精”的工作方針和“優質、高效、全程”的服務理念為患者提供醫療服務，多次受到國家、省、市表彰，三十多年來一直保持山西省文明醫院稱號，三次榮獲“全國衛生系統先進集體”稱號。近年來先后榮獲“全國文明單位”、“全國衛生文化先進集體”、“中國優秀志愿服務集體”、“山西省模范單位”、“山西省集體一等功”、“山西省五一勞動獎狀”、“山西省文明和諧單位”、“山西省十佳醫院”、“山西省醫院內涵建設先進集體”、“山西省優秀基層黨組織”、“山西省抗擊新冠肺炎疫情先進集體”等榮譽。