Sous la domination française, après avoir terminé la conquête de six provinces du Nam Bô (Sud du Vietnam), que sont Biên Hoà, Gia Dinh, Dinh Tuong, Vinh Long, An Giang et Hà Tiên, en février 1868, le gouverneur du Sud-Vietnam, Lagrandière, a ordonné la construction d’un nouveau palais à Sai Gon pour remplacer l'ancien en bois, datant de 1863. En 1873, le palais a été achevé et nommé «Palais Norodom», du nom du roi cambodgien (1834-1904) - car l'avenue en face du palais portait le même nom. En mars 1945, les Japonais ont remplacé les Français après un coup d’État en Indochine. Le Palais Norodom devint alors le siège de fonctionnaires japonais. Et après 1945, la France est revenue au Vietnam et le Palais Norodom est redevenu le siège de l’administration coloniale française.

En 1955, le Président de la République du Vietnam, Ngô Dinh Diêm, l’a rebaptisé Palais de l'Indépendance. A cette époque, les autorités et l'armée du Sud-Vietnam le surnommait « Phu Dâu rông » (littéralement « Palais de la Tête de dragon »).

Bombardé en 1962 par les avions d’une faction dissidente, le palais fut fortement endommagé. Après cet événement, Ngô Dinh Diêm le fit raser et reconstruire un nouvel édifice.

Commencés le 1er juillet 1962, les travaux furent interrompus pendant six mois par le coup d’Etat qui mit fin au règne de Ngô Dinh Diêm. Inauguré le 31 octobre 1966 par les vainqueurs du coup d’État, Nguyên Van Thiêu et Nguyên Cao Ky, le nouveau palais est l’oeuvre de Ngô Viêt Thu. Titulaire du Grand Prix de Rome, cet architecte est connu pour ses nombreuses constructions et travaux de restauration dans le pays. Il a su allier l’architecture moderne avec le style architectural d’Orient dans la conception et l’aménagement du palais.

Le bâtiment est un magnifique exemple de combinaison des architectures moderne et traditionnelles orientales – cette dernière aérée et ouverte. Il a la forme de l’idéaogramme chinois « bonne chance ». Il fait 26m de haut, avec une superficie totale de 20.000 m². Il comprend trois étages principaux, deux mezzanines, deux sous-sols et un héliport. On y dénombre plus d’une centaine de chambres ainsi qu’une salle de réunion du conseil du Cabinet et des salles de travail pour le président et le vice-président. Le système de ventilation et les fenêtres sont de grandes grilles stylisées pareilles à des rideaux avec des entre-noeuds élégants de bambou. Cette caractéristique architecturale est inspirée d'une sorte de porte avec des barres en bois que l’on trouvait dans les palais de l'ancienne capitale Huê.

Lorsque le palais a été ouvert, il est devenu le siège du gouvernement de la République du Vietnam. Il a servi de domicile et de lieu de travail à Nguyên Van Thiêu, qui était alors président de la République du Vietnam, d’octobre 1967 au 21 avril 1975. Le 8 avril 1975, Nguyên Thành Trung, un pilote de l'Armée de l'Air vietnamienne et un espion communiste ont volé un avion F-5E et bombardé le palais, sans causé des dommages importants. À 10h45 le 30 avril 1975, un char T54 portant le numéro 843 de l’armée de Libération du Sud a défoncé la grille principale du palais. À 11h30 du même jour, un drapeau du Front National de Libération du Sud Vietnam flottait sur le toit du palais, terminant 30 ans de guerre. Le Sud était totalement libéré.

En novembre 1975, lors de la conférence de négociation politique sur la réunification du Sud et du Nord, le Gouvernement révolutionnaire provisoire a décidé de le renommer Palais de la Réunification. Aujourd'hui, c’est l'un des sites les plus fascinants de Hô Chi Minh-Ville en raison de son architecture remarquable et de sa valeur historique, qui attire de nombreux touristes nationaux et étrangers.

Marquez, un touriste argentin, a confié : «En visitant le Palais de la Réunification dans la ville portant le nom du Président Hô Chi Minh, j’ai pu mieux comprendre l'histoire héroïque et le passé glorieux de votre pays ».

Le 25 juin 1976, le Palais de la Réunification a été classé « vestige national spécial » par le ministère de la Culture (aujourd'hui ministère de la Culture, des Sports et du Tourisme). En août 2009, le Premier ministre l’a reconnu comme l'un des dix vestiges nationaux spéciaux.