Tên của ngôi chùa bắt nguồn từ một huyền thoại. Chuyện kể rằng, từ xa xưa, dân địa phương đêm đêm thường thấy một bà già mặc áo đỏ, quần lục xuất hiện trên ngọn đồi nơi chùa tọa lạc ngày nay và nói: rồi sẽ có chân chúa đến lập chùa ở đây để tụ khí cho bền long mạch. Khi nói xong, bà biến mất. Sau khi vào trấn Thuận Hoá, chúa Nguyễn Hoàng một lần đi qua, nghe kể chuyện đã cho xây chùa và đặt tên là Thiên Mụ Tự.
Năm 1601, chùa được xây dựng. Năm 1665, chúa Nguyễn Phúc Tần cho trùng tu. Năm 1710, chúa Nguyễn Phúc Chu cho đúc quả đại hồng chung cao 2,5m nặng 3.285kg, và năm 1715, chúa lại cho xây dựng tấm bia cao 2,58m đặt trên lưng con rùa bằng cẩm thạch. Vào thời Nguyễn, các vua Gia Long, Minh Mạng, Thiệu Trị, Thành Thái đều cho trùng tu chùa.
Tháp Phước Duyên (ban đầu được đặt tên là tháp Từ Nhân) được vua Thiệu Trị cho xây vào năm 1844. Tháp hình bát giác cao 7 tầng (21m).
Ðiện Ðại Hùng là ngôi chính điện trong chùa, một công trình kiến trúc đồ sộ nguy nga. Trong điện, ngoài những tượng phật bằng đồng sáng chói còn treo một khánh đồng được đúc năm 1677 và một bức hoành phi bằng gỗ sơn son thếp vàng do tự tay chúa Nguyễn Phúc Chu đề tặng năm 1714. Hai bên chùa có nhà trai, nơi các sư tĩnh dưỡng và nhà khách để đón khách đến vãn cảnh chùa.
Trước các điện, quanh chùa là các vườn hoa cây cảnh xanh tươi, rực rỡ. Phía sau cùng là vườn thông tĩnh mịch, phong cảnh nên thơ. Chùa bị hư hỏng nặng năm 1943. Từ năm 1945, Hoà thượng Thích Ðôn Hậu đã tổ chức công cuộc đại trùng tu kéo dài hơn 30 năm.
Ngày nay chùa vẫn được tiếp tục chỉnh trang ngày càng huy hoàng, tráng lệ, luôn hấp dẫn và thu hút đông đảo du khách gần xa.