Nối từ phố Thuốc Bắc đến phố Hàng Gà, nguyên là đất thôn Tân Khai. Đầu thế kỷ XX, phố này còn gọi là phố Hàng Bừa, nguyên là từ cuối thế kỷ XIX, một số thợ rèn người làng Hòe Thị ra đây mở lò rèn, làm nghề. Vì bừa là thứ hàng cồng kềnh, phải bày ra hè phố la liệt, do đó thành tên phố. Tới đầu thế kỷ XX, do nhu cầu của việc xây dựng nhà cửa kiểu mới, phố này chuyển sang làm những mặt hàng mới như bu-lông, cửa xếp bằng sắt, cổng sắt uốn hoa ... Do không bán bừa nữa nên tên phố Hàng Bừa mất đi nhường chỗ cho tên gọi chung nhất là phố Lò Rèn.
Hiện nay nhà số 1 phố này là ngôi đình thờ tổ nghề rèn dựng hồi đầu thế kỷ XX để làm nơi cúng tế của dân hàng phường. Thời Pháp thuộc, phố này có tên là "rue des Forgerons" (tức phố Thợ Rèn). Sau Cách Mạng đã gọi theo tên hiện nay.