小家鼠为鼠科中的小型鼠,体长60~90毫米,体重7~20克,尾与体长相当或略短于体长。头较小,吻短,耳圆形,明显地露出毛被外。上门齿后缘有一极显著的月形缺刻,为其主要特征。毛色随季节与栖息环境而异。体背呈现棕灰色、灰褐色或暗褐色,毛基部黑色。腹面毛白色、灰白色或灰黄色。尾两色,背面为黑褐色,腹面为沙黄色。四足的背面呈暗色或污白色。