中小企业银行前身系『无尽株式会社 』于1915年创立，总公司设在台北市。
1976年7月1日改制为『中小企业银行股份有限公司』，为我国首先创设成立，以提供中小企业融资与辅导为宗旨，拥有完整金融服务功能的专业银行。为顺应自由化与国际化之金融环境，并配合政府推动公营事业民营化政策复于1998年1月22日改制为民营银行。
本行分支机构遍及全台各地，并于国外设有美国洛杉矶分行、香港分行及澳洲雪梨分行。本行将在现有基础下继往开来，随时掌握经济脉动，勇于接受挑战，群策群力，秉持「进步、效率、责任」的经营理念，共同创造美好的愿景，以期无愧同仁之缔造与经营之艰辛。