Năm 1843, hoà thượng Nhất Ðịnh nguyên tăng cang chùa Giác Hoàng đã đến đây khai sơn thảo am nhỏ để tịnh tu và nuôi dưỡng mẹ.
Năm 1848, hòa thượng Cương Kỷ bắt đầu xây dựng qui mô bởi sự hỷ tự của triều đình và các quan thái giám, các phật tử, chùa Từ Hiếu trở thành một ngôi chùa lớn.
Chùa được xây theo kiểu chữ khẩu, chùa chính ba căn, hai chái. Chính điện phía trước thờ Phật, phía sau thờ Tổ. Nhà hậu là Quảng Hiếu Đường, ở giữa thờ Đức Thánh Quan, bên trái thờ Hương Linh Phật Tử tại gia, bên phải thờ các vị thái giám..., bên tả sân hậu là Tả Lạc Thiên (nhà tăng) và bên hữu là Hữu Ái Nhật (nhà khách).
Cổng chùa xây theo kiểu vòm cuốn hai tầng, phía trên chính giữa thờ tượng Hộ pháp. Trong cổng tam quan có hồ bán nguyệt thả hoa sen, hoa súng và cá cảnh. Hai bên sân có hai lầu bia để ghi lịch sử xây dựng chùa.
Năm 1894, hoà thượng Cương Kỷ tiếp tục trùng tu và kiến thiết toàn cảnh với sự giúp đỡ của vua Thành Thái, các giám quan và nhiều phật tử. Năm 1931, hoà thượng Huệ Minh tiếp tục trùng tu và xây hồ bán nguyệt. Năm 1962, hòa thượng Chơn Thiệt tiếp tục trùng tu chùa. Chùa được Thượng tọa Chí Niệm cho trùng tu cửa tam quan, hồ bán nguyệt và những nhà cửa bị hư hỏng. Chùa là một trong những ngôi cổ tự lớn ở cố đô Huế.