Chợ Xép được hình thành vào những năm cuối thế kỷ XIX trên một con hẻm nhỏ gần cổng thành Đông Ba, chỉ là một ngôi chợ nhỏ với những mặt hàng đơn sơ, phục vụ nhu cầu sinh hoạt của người dân trong khu vực. Thời gian gia đình cụ Phó bảng Nguyễn Sinh Sắc (thân sinh Chủ tịch Hồ Chí Minh) sống ở ngôi nhà trong khu “Thuộc viên”, cuộc sống của ba cha con vị quan Thừa biện Bộ Lễ chủ yếu mua sắm ở chợ nhỏ này. Lúc đó Nguyễn Tất Thành hầu như đảm nhận công việc nội trợ, chợ búa giúp cha. Ngôi chợ nhỏ trong kinh đô Huế thời đó đã phản ánh rõ nét sự trái ngược giữa cuộc sống giàu sang của những ông quan thân Pháp với cuộc sống đạm bạc, khó khăn của những vị quan thanh liêm và người dân nghèo trong kinh đô. Điều đó đã tác động đến nhận thức của Nguyễn Tất Thành - người thanh niên vốn thông minh, mẫn cảm sớm nhận thức được cái nhục của người dân mất nước. Vì vậy, chợ Xép đã để lại những ấn tượng khó quên trong tình cảm của Nguyễn Tất Thành, để rồi từ đó, cái tên chợ Xép trở thành kỷ niệm sâu sắc với biết bao vui buồn về những năm tháng sống ở kinh đô Huế, mà sau nay có dịp Người vẫn thường nhắc đến: Làng Dương Nỗ, đường Đông Ba, chợ Xép, những O bán chè chén với những hoài niệm và tình cảm nhớ thương.

Địa điểm di tích chợ Xép góp phần làm phong phú thêm hệ thống di tích lưu niệm về thời niên thiếu của Chủ tịch Hồ Chí Minh ở Huế, giúp khách tham quan hiểu đầy đủ hơn về quãng đời thơ ấu của Người.