Trường mầm non Núi Voi tiền thân là Nhà trẻ của Mỏ đá Núi Voi trực thuộc Công ty gang thép Thái Nguyên, đến ngày 18/02/1990 trường chính thức được thành lập lấy tên gọi là Trường mầm non Núi Voi trực thuộc sự quản lý của phòng Giáo dục và Đào tạo thành phố Thái Nguyên

Để đáp ứng nhu cầu gửi con của nhân dân trên địa bàn, nhà trường đã tích cực, chủ động tham mưu với lãnh đạo địa phương cấp thêm đất để mở rộng diện tích đất sử dụng, ban đầu nhà trường có 2600m2 đến nay là 4570,6m2 đảm bảo đủ diện tích đất qui định cho số trẻ học tại trường.

Từ khi thành lập đến nay nhà trường liên tục được công nhận danh hiệu tập thể lao động tiên tiến và tập thể lao động xuất sắc, được nhận nhiều Giấy khen của Phòng Giáo dục và Đào tạo, UBND huyện Đồng Hỷ, phòng giáo dục thành phố Thái Nguyên, Sở Giáo dục và Đào tạo Thái Nguyên; Bằng khen của UBND tỉnh Thái Nguyên, Bộ Giáo dục và Đào tạo và Bằng khen của Thủ tướng Chính phủ.

Tháng 11 năm 2006 trường được công nhận Trường mầm non đạt chuẩn quốc gia giai đoạn 2002-2005, đến tháng 10 năm 2013 trường được công nhận Trường mầm non đạt chuẩn quốc gia mức độ 1.