Kéo dài từ phố Lò Đúc đến phố Huế, đoạn đầu phố nguyên là đất thôn Hương Thái (sau hợp với thôn Hoa Viên thành thôn Hương Viên) và phần còn lại là đất thôn Hòa Mã. Đầu thế kỷ XIX thì thôn Hòa Mã có tên là Đổi Mã. Tấm bia trong chùa Hòa Mã cũng có ghi tên gọi Đổi Mã. Nguyên chùa này có tên là Thiên Quang tự, là chùa của thôn Đổi Mã cũ, vốn có cổng thông ra phố Hòa Mã nhưng đã bị xây chắn nên bây giờ cổng ra vào lại là chỗ nhà số 3 Phùng Khắc Khoan. Chùa Thiên Quang này xưa là cung Đổi Mã, tức là nơi vua đổi xiêm áo thường, mặc lễ phục vào tế ở đàn Nam Giao, đàn này là chỗ nhà máy cơ khí Trần Hưng Đạo. Thời Pháp thuộc, phố này có tên là phố Đô đốc Xê-nét (rue Amiral Sénès) nhưng nhân dân quen gọi là phố Hòa Mã. Sau Cách Mạng đã chính thức hóa tên gọi này.