三山小学创建于1938年，1998年9月合并游山、三山两所村小在现址上创办三山镇上游示范村小，1999年合并老冲小学更名为三山镇逸夫小学。2003年8月，经过教育管理体制改革，恢复为三山镇小学。2006年2月芜湖市三山区成立，原三山镇小学更名为芜湖市三山小学。
三山小学现辖天桥、孙滩、月桥、新庄、长坝五所分校，本部位于三山办事处境内321S道北侧，与芜湖市三山绿色工业园相对。校园占地面积32683平方米，形成了教学区、运动区、生活区三位一体的基本格局。小学本部现有20个教学班，1200余名学生，是一所规模较大的六年制完全小学。学校教学用房建筑面积3948平方米，拥有24个标准教室，综合楼内设有64座的网络教室、多媒体室、图书室、自然实验室等；运动区占地12798平方米，内设300米塑胶跑道、足球场、篮球场和多种健身器材；生活区建筑面积3948平方米，拥有3幢48套住宅的园丁小区。校园绿地面积达12132平方米。一年四季春常在，校园处处皆花园。
三山小学现拥有一支高素质的师资队伍。在岗教师115人，其中，小学教师55人。具有本科学历的教师有8人，专科学历的有47人，并有20余名教师正在进修本、专课程。近年来，学校在张健校长的带领下，狠抓学校内部管理，努力提高办学效益，先后被评为繁昌县文明单位、办学水平县级合格学校、省级电教设备一类达标学校、芜湖市绿色学校等。2000年11月国家副总督学文湛一行来三山小学调研时，欣然题下了繁昌农村小教一枝花的赠言。