上海市音乐幼儿园成立于1984年10月,由香港爱国同胞刘浩清先生和夫人孔爱菊女士提供私宅,由上海市妇女联合会创办,是本市所音乐幼儿园。1989年与黄浦区淮海东路幼儿园合并，迁址淮海东路6号，隶属于黄浦区教育局领导。1996年合并原江西中路幼儿园（汉口路126号）成立分园。2005年7月，由于分园园舍陈旧，条件设施跟不上发展要求，经教育局同意关闭分园。 2007年11月为了迎接世博配合人民路越江隧道工程，音乐幼儿园迁址厦门路180号。2010年音乐幼儿园被评为上海市示范性幼儿园。

上海市音乐幼儿园已连续五届被评为市级文明单位，1998年被评为上海市“三八”红旗集体，2001 年被评为上海市劳模集体，2004被评为全国女职工集体，幼儿园还曾获得上海市办园成绩显著单位、上海市绿化单位等荣誉称号；上海市语言文字规范化示范校；园党支部也被评定为黄浦区一级党支部。幼儿园坚持以科研推动教育的发展，是EPD学校、区科研集体，是一所社会声誉很高的品牌幼儿园。

如今的音乐幼儿园设有大、中、小、托四个年龄段，将近有200名幼儿。拥有整洁、舒适、优雅的环境。幼儿园设有多功能活动室6间；专用活动室17间；户外运动场地面积250平方米。每班配置了一活动室、一卧室、一盥洗室，设置了专门的幼儿餐厅，还有安全卫生、内容充足、丰富多样、适合各年龄特点的玩具、图书、操作材料及必要的多媒体教学设备，并且使用率高。

幼儿园拥有一支充满朝气、富于挑战、多才多艺的教师队伍，全园在岗教工共32名，其中行政2人、教师20名、大专学历8名，本科及本科在读12名，在读研究生1名，全部达到规定学历。后勤职工10名，做到了持证上岗。全园教师中共有党员13名，占教师总数的59%。100％教师向党组织递交了入党申请书。每位教师掌握两门以上乐器，艺术素养精湛。教师们师德高尚，乐于学习，勇于在实践中探索与开拓，是音乐幼儿园一道令人称赞的风景线。

办园廿多年来，音幼始终坚持“全面＋特色”的办园理念，使音幼的孩子能在幼儿园常规教育课程学习中得到全面发展，还能在以器乐启蒙为主的音乐课程学习中获得音乐素质的提升。幼儿学习的乐器内容包括钢琴、小提琴、琵琶、柳琴、二胡、扬琴、古筝等。特聘了上海音乐学院、上海师范大学和各区青少年活动共40余位、教授定期为幼儿园的音乐专业教学把关，使幼儿获得了“全面＋特色”的综合发展。