Durant la période coloniale, la rue Lê Duân s'appelait Hàng Long ou encore rue Maréchal de Lattre de Tassigny. Après 1954, la rue Hàng Long a été rebaptisée Route Nam Bô. Celle-ci reliait entre eux les hameaux de Vinh Xuong, Nam Môn, Hoa Ngu et Tu My, ainsi que la gare Hàng Co où l'on vendait du fourrage pour chevaux de course d'un hippodrome proche, sur le site actuel du Palais culturel de l'amitié Viêt Xô (vietnamo-soviétique), rue Trân Hung Dao. 

En 1902, le pont Long Biên enjambant le fleuve Rouge et la gare Hàng Co sont tous deux entrés en service tout comme les premiers kilomètres de la ligne ferroviaire menant à Gia Lâm. Les Français poursuivent les travaux de construction des lignes Hanoi-Nam Dinh-Ninh Binh en janvier 1903, Hanoi-Hai Phong en avril 1903, et Hanoi-Lào Cai en avril 1905. La ligne Nord-Sud, mise en chantier à Saigon en 1900, a été achevée après 37 années de travaux, c'est-à-dire en 1936. L'ensemble de ces voies constitue l'ossature du réseau ferroviaire du Vietnam.

Actuellement, le bâtiment principal originel de la gare de Hanoi n'existe plus suite à des bombardements de B52 américains survenus en décembre 1972. En 1976, un nouveau a été construit dans un style architectural moderne, et la ligne ferroviaire transvietnamienne a été réouverte au trafic après 30 années d'interruption. 

Durant la guerre, la voie ferrée a été un moyen de transport essentiel. Obtenir un billet de train était très difficile, et la cohue dans les trains était une scène familière. La gare, constamment bondée, l'était plus encore les jours fériés et aux alentours du Têt. 

De nos jours, le bâtiment principal de la gare est situé au 120D, rue Lê Duân, à l'extrémité Ouest de la rue Trân Hung Dao. C'est là, entre la rue Nguyên Khuyên et celle de Khâm Thiên, que se trouvent également les principaux ateliers de maintenance des locomotives, voitures, systèmes de signalisation, etc.

Les annexes de la gare sont à quelques centaines de mètres : gare de Hanoi B située rue Trân Quy Cap, gares de Gia Lâm, sur la rive Est du fleuve Rouge, et de Long Biên, sur la rive Ouest. Tous les jours, plusieurs trains partent de la gare de Hanoi, ses cinq lignes la reliant à l'ensemble des localités du pays. 

Après plus de 20 ans de Renouveau, la gare de Hanoi s'est métamorphosée. Elle est plus accueillante avec une salle d'attente, une de transit international, des tableaux d'information électroniques, etc. Elle a mis également en place un système de réservation en ligne pour les passagers. 

Une des tâches les plus importantes pour les Chemins de fer vietnamiens a été de rénover les ponts ferroviaires sur toute la ligne Nord-Sud. Leurs efforts inlassables ont permis de réduire la durée du trajet : de 52 heures en 1983, elle est passée à 48 heures dix ans plus tard. Depuis décembre 2004, un train express met environ 28 heures pour faire le trajet entre les deux plus grandes villes du pays. Cette réduction du temps est l'un des grands succès des Chemins de fer vietnamien. Aujourd'hui, les courts trajets - entre Hanoi et Hai Phong, Dông Dang et Lào Cai - sont réalisés en trains express. 

Outre les voitures et locomotives fabriquées par l'Allemagne, l'Inde et la Chine, les Chemins de fer vietnamiens utilisent également des voitures de luxe à étages destinées aux touristes. La zone A de la gare de Hanoi est réservée aux passagers des trajets Nord-Sud, Hanoi-Dông Dang et Hanoi-Hai Phong. La zone B, située rue Trân Quy Cap, est destinée aux passagers allant à Lào Cai, Yên Bai et Thai Nguyên. 

La gare de Hanoi représente, en terme de trafic, la moitié des passagers transportés par la Compagnie de transports ferroviaires de Hanoi et un cinquième de la Compagnie générale des chemins de fer du Vietnam. Avec sa modernisation, le secteur des chemins de fer attire de plus en plus de passagers.