1947年2月,華東軍區(qū)·第三野戰(zhàn)軍衛(wèi)生部醫(yī)學院(簡稱華東醫(yī)學院)在山東省沂源縣曹莊成立。
1949年1月,淮海戰(zhàn)役勝利結(jié)束后,華東軍區(qū)兼第三野戰(zhàn)軍黨委決定招生辦學。當年3月。由第三野戰(zhàn)軍前方衛(wèi)生部和華東醫(yī)學院抽調(diào)干部組成招生組,在江蘇省揚州市設(shè)立華東醫(yī)務(wù)干部學校,不久改名為華東醫(yī)學院,共招收新生800余人。同年6月,學院遷至江蘇省蘇州市滄浪亭。
1949年5月,上海解放,上海市軍事管制委員會軍事接管委員會派員進駐上海江灣區(qū)五角場原國民黨國防醫(yī)學院,接管了學院校舍和國民黨聯(lián)勤第二總醫(yī)院的全部設(shè)備及院長等工作人員475人。
1949年9月12日,華東軍區(qū)人民醫(yī)學院正式成立并舉行開學典禮。學院隸屬于華東軍區(qū)后勤部。
1950年10月,中央軍委命令,將醫(yī)學院命名為中央人民政府人民革命軍事委員會上海軍醫(yī)大學,隸屬于中國人民解放軍總后勤部,華東軍區(qū)政治部主任舒同題寫了校名。
1951年7月9日,學校正式定名為第二軍醫(yī)大學,校名由陳毅元帥題寫。
1954年,制定了軍醫(yī)和藥學專業(yè)新的教學計劃和大綱,并完善了辦學體系。 1955年,創(chuàng)辦了衛(wèi)生勤務(wù)學系。
1960年,增設(shè)了海軍醫(yī)學系。

第二軍醫(yī)大學
1961年,開始承擔外軍醫(yī)學留學生培訓任務(wù)。1969年8月29日,“文化大革命”期間,軍委辦事組批準總后勤部黨委《關(guān)于醫(yī)科院校調(diào)換校址的報告》,第二軍醫(yī)大學于當年10月奉命遷至陜西省西安市長樂路第四軍醫(yī)大學原校址。學校奉命搬遷到西安現(xiàn)第四軍醫(yī)大學校址。 1975年7月,學校經(jīng)中央軍委批準遷回上海原址。
1981年11月,經(jīng)國務(wù)院批準,學校成為全國首批博士和碩士學位授予單位。
1997年,學校成為國家“211工程”重點建設(shè)院校。
1999年,海軍醫(yī)學高等專科學校并入第二軍醫(yī)大學。入選國家“211工程”,學校教、醫(yī)、研等各項工作得到了快速發(fā)展,并以優(yōu)秀成績通過了國家“211工程”三期、軍隊“2110工程”二期和總后“530工程”一期驗收。
2003年,學校獲批全國首個護理學博士學位授權(quán)學科。 2012年,入選教育部衛(wèi)生部第一批卓越醫(yī)生教育培養(yǎng)計劃項目試點高校。
2013年,入選國家第一批臨床醫(yī)學碩士專業(yè)學位研究生培養(yǎng)模式改革試點高校。
2016年,學校由隸屬于原中國人民解放軍總后勤部轉(zhuǎn)隸中國共產(chǎn)黨中央軍事委員會訓練管理部。
2017年6月,因軍隊改革,學校由軍委訓練管理部轉(zhuǎn)隸海軍,并更名為中國人民解放軍海軍軍醫(yī)大學,對外保留第二軍醫(yī)大學校名。9月,入圍首批國家“雙一流”世界一流學科建設(shè)高校名單。 2022年2月,入選第二輪“雙一流”建設(shè)高校及建設(shè)學科名單。