An Dương là một bãi do phù sa sông Hồng bồi đắp nên từ cuối thế kỷ XIX. Bãi này thuộc làng Yên Phụ. Thời Pháp thuộc chủ yếu trồng ngô và dâu. Ở đây có một cụm dân cư gọi là Trại Xẩm vì là nơi trú ngụ của những người hát xẩm ở bến xe, bến tàu, chợ và trong thành phố.
Năm 1959, một số dãy nhà một tầng cột gỗ được dựng lên để giải quyết nhà ở tạm cho Việt kiều Thái Lan vừa về nước. Sau này dân cư các tỉnh tập trung nhiều về khu vực này.
Sáng 21-12-1972, nhiều tốp máy bay Mỹ đã trút bom hủy diệt khu này, hàng trăm ngôi nhà bị tan nát, số người thiệt mạng là 135.