Núi Voi có nhiều hang động đẹp: hang Họng Voi, hang Chiêng, hang Cá Chép, hang Bể... Phía nam núi Voi có động Nam Tào, phía bắc có động Bắc Đẩu. Trong hang động có nhiều nhũ đá, măng đá với muôn hình kỳ lạ như rồng chầu, hổ phục, đầu voi... Trên đỉnh núi Voi có một khoảng đất tương đối bằng phẳng gọi là bàn cờ cõi tiên. Trên núi còn nhiều dấu vết đền chùa và vết tích thành nhà Mạc được xây dựng vào thế kỷ 16. Đặc biệt các nhà khảo cổ còn tìm thấy nhiều di vật của người xưa như rìu, đục bằng đá, đồng cách đây gần 3.000 năm.