1956年秋，经着名音乐家贺绿汀倡导，上海音乐出版社正式宣告成立。

1958年8月，上海音乐出版社与新文艺出版社、文化出版社合併为三社一体的上海文艺出版社。

1987年1月，经国家新闻出版署批准，正式恢复上海音乐出版社社牌，作为上海文艺出版社的副牌。

2004年6月22日，上海音乐出版社正式併入上海文艺出版总社。

上海音乐出版社下设办公室、图书编辑部、音像编辑部、音乐爱好部、行销部、市场部、发行业务部、行政部等部门。

上海音乐出版社主要出版和销售各类音乐、舞蹈图书、大中国小教材及相关音像製品。

上海音乐出版社以“既富有文化品位，又符合市场需求”为出书方针，通过最佳化选题结构提高竞争实力，坚持自主创新和引进吸收相结合，坚定不移地走专业化、精品化和特色化的发展之路，经过几代新老出版人的努力，已成为一家拥有众多音乐读者和完善销售网路的品牌出版社。