Nối từ đường Yên Phụ đến phố Phan Đình Phùng, nguyên là địa phận các thôn Thạch Khối, Hòe Nhai (sau đổi là Giai Cảnh) và Yên Thành. Sở dĩ có tên là Hòe Nhai vì tương truyền rằng đời Lý có lệ quy định các triều thần mỗi người phải trồng một cây hòe trên con đường từ hoàng thành ra tới bến Đông, do đó mà thành tên Hòe Nhai. Thời Pháp thuộc, đây là 2 đường phố khác nhau: từ đường Yên Phụ đến phố Hàng Than là đường 34 (voie 34) và từ phố Hàng Than đến phố Phan Đình Phùng là phố bệnh viện Trung Quốc (rue de I'Hôpital Chinois) mà dân chúng quen gọi là phố Nhà Thương Khách vì bệnh viện do Hoa kiều lập nên. Sau Cách Mạng đã đổi đường 34 ra là phố Hòe Nhai, phố bệnh viện Trung Quốc thì dùng tên dân chúng hay gọi là Nhà Thương Khách. Tới năm 1964 đã nhập hai phố làm một và gọi chung là phố Hòe Nhai.