合肥市第二十一中学创办于1964年，当时为合肥市第九工读学校。1968年12月搬迁此，1970年改名为合肥市郊区中学。1972年设置高中班成为普通完全中学。1976年全市教育部门主管的中学统一命名，合肥市郊区中学更名为合肥市第二十一中学。1978年9月划归合肥市教育局主管。学校今已有三十五年的历史。

学校位于合肥市庐阳区西北环湖三国古城风景区，属庐阳区三十岗乡，学校南临有庐州翡翠之称的董铺水库、东临合淮公路、西接肥西县、北连长丰县，依山傍水，风景秀丽；校园内秀木成荫，花团锦簇。学校周围有一望无垠的良田、丰富的自然景观，是环境优美的读书胜地，是学生成材潜心读书的世外桃源。

校园占地面积4公顷，建筑面积3公顷。学校基础设施配套，拥有32个教室，现代教育技术电脑教室、语音教室和设备配套的理、化、生实验室、电子备课室、音乐室、美术室等现代化教学设施一应俱全，学校档案管理已达省一级标准。250平方米全封闭标准田径运动场地和拥有4.8万余册的图书馆，为在校1000余名学生提供了勤奋学习、努力向上的良好氛围。