前身名为二十二铺小学堂，后曾为龙门师范附属小学、江苏省立第二师范学校附属小学、江苏省立上海中学附属实验小学。1934年开始，改名为江苏省立实验小学，学校迁址上中路。抗战期间，学校辗转多处。1945年复学并恢复了校名——江苏省立上海实验小学。解放后，学校改名上海市上海小学，上海市上海县上海小学。1984年学校随上海市行政区划的调整，划入徐汇区管辖，改名上海市徐汇区上海小学。上海小学是徐汇区政府辖下的一所大型公办小学。

2001年学校的校舍改造被列入徐汇区政府实事工程。2002年，焕然一新的校舍落成并投入使用。学校座落在上海市西南面的上中路200号，毗邻闻名遐迩的上海中学。校园占地面积30余亩，校内古树参天，小桥流水，鸟语花香，环境怡人。学校现有35个教学班，学生1380余名，教学大楼4幢，住宿楼一幢，建筑面积共达11000多平方米。97年学校恢复寄宿制，现有寄宿生200余名；2005年起开办外籍班，现有外籍学生近30名。

上海小学今已有百余年办学历史。学校素以“爱国、文明、勤奋、创新”为校风。首任校长盛朗西，毕业于原东南大学教育系，是著名教育家杜威的学生。他所提倡的“在做中学，从学中做”的办学思想及特色，在历届继任校长中得以传承。一百多年来，学校以优质的教育教学质量在社会上树立了良好的形象；一百多年来，学校培养了一批又一批的毕业生，桃李遍布各行各业，大江南北，四海内外。中科院于光远院士，东南大学自动化研究所博士生导师、中国科学院冯纯伯院士，著名表演艺术家秦怡，上海市文化广播影视管理局局长穆端正等等都毕业于这座声望极高的学校。

上世纪九十年代以来，学校率先试行教育教学改革。在市区及全国及同行们的关心及指导下，学校以《小学语文感悟型教学研究》为学校教改的龙头，并领衔在区内尝试使用上海市二期课改实验教材。通过多年的努力，形成了较为稳定的“以人为本，以读为主，联系生活，整体感悟”的语文教学思想，并成功地将此思想迁移于其他学科的教学中，取得了良好的效果。学校的历届毕业生普遍受到高一级学校的欢迎。

2007年，学校的语文学科，信息技术学科被区教育局，区教育学院列为建设学科；学校的“电子制作”作为品牌项目在建设之中；学校每年以“上小杯”冠名举办电子制作和小学生田径运动会，在区内享有良好的声誉。

上海市徐汇区上中路200号