Nối từ phô Trần Bình Trọng đến đường Nam Bộ (nay là Lê Duẩn), nguyên là đất Liên Thủy, sau đổi là thôn Liên Đường. Thời Pháp thuộc, đây là phố Mông-grăng (rue Mongrand). Sau Cách Mạng đổi ra tên hiện nay.
Nguyễn Thượng Hiền (1868 - 1925) người làng Liên Bạt, Hà Tây. Năm 1884 đỗ cử nhân. Năm sau vào Huế thi đình đáng lẽ đỗ đình nguyên nhưng giặc Pháp đánh chiếm kinh thành nên không kịp yết bằng, do đó khóa thi bị hủy. 7 năm sau ông thi lại và đỗ Hoàng Giáp nhưng không chịu làm quan. Thực dân lo ngại uy tín của ông nên bắt triều đình ép ông ra làm quan tại Quốc sử quán, sau thăng đốc học Ninh Bình, Hà Nam, Nam Định. Ông thường tiếp xúc với nhiều nhà Cách Mạng như Tăng Bạt Hổ, Phan Bội Châu ... Năm 1908 ông bỏ quan, sang Trung Quốc và Nhật cùng Phan Bội Châu hoạt động trong Việt Nam quang phục hội. Ông có tổ chức đánh mấy đồn lính ở Lạng Sơn và Móng Cái. Tuy có gây được ít nhiều ảnh hưởng nhưng kết quả không được như ý muốn. Sau đó là những thất bại liên tiếp. Ông chán nản, vào tu tại một ngôi chùa ở Hàng Châu và mất tại đây năm 1925.