Theo sử liệu và thông tin còn lưu lại cho biết, ngôi đình này được xây dựng vào thế kỷ 18. Năm 1818 đình được trùng tu. Đầu thế kỷ XX, do ảnh hưởng việc mở đường, đình được chuyển sang xây tại vị trí hiện tại. Trải qua những thăng trầm của lịch sử, đình vẫn giữ được kiểu kiến trúc đặc sắc và giá trị tinh thần to lớn trong đời sống cộng đồng làng Hội An. Tuy nhiên, hoạt động bảo tồn và phát huy giá trị ngôi đình bị chững lại do một thời gian dài di tích đình tạm sử dụng phục vụ việc giảng dạy.
Với những nỗ lực trong công tác bảo tồn và phát triển, thành phố đã di dời trường mẫu giáo Măng non ra khỏi khuôn viên ngôi đình; đồng thời cho đầu tư phục hồi, phát huy giá trị di tích. Chỉ hơn 2 năm, 2 dự án song hành này đã được thành phố triển khai và đạt thành công. Phát biểu tại lễ đón bằng công nhân di tích cấp tỉnh đối với đình Ông Voi, Phó Chủ tịch UBND TP.Hội An Nguyễn Minh Lý nói: “Chúng ta đón nhận bằng xếp hạng di tích cấp tỉnh đình Hội An trong niềm phấn khởi, tự hào nhưng đi cùng với đó là trọng trách to lớn đặt ra phải quản lý, bảo tồn và phát huy tốt giá trị vốn có của di tích để những giá trị đó được lan tỏa không chỉ trong cộng đồng dân cư mà còn đến với bạn bè gần xa”.