Đền được người Pháp xây dựng năm 1926, lúc đầu gọi là đền Kỷ niệm – nơi tưởng niệm những người Việt Nam đi lính cho Pháp tử trận trong chiến tranh thế giới thứ nhất (1914 – 1918). Năm 1954, chính quyền Sài gòn sử dụng đền thành nơi thờ Hùng Vương, Khổng Tử, Trần Hưng Đạo, Lê Văn Duyệt… Từ năm 1975 đến nay, Đền mang tên Đền thờ Vua Hùng do Bảo tàng Lịch sử quản lý. Đền có bình đồ vuông, diện tích 220m2 nhìn về hướng Tây Bắc, kiến trúc Á Đông 3 tầng nền, 2 tầng mái ngói âm dương với tường gạch, hệ thống cột, rường kèo gỗ…
Giữa đền có bàn hương án, phía sau là chính điện với 3 bàn thờ. Bàn thờ giữa có 3 bài vị:
- Giữa: thờ Quốc tổ Hùng Vương
- Trái: thờ những bề tôi trung thành và tướng giỏi
- Phải: thờ Tổ tiên trăm họ Việt Nam
Bàn thờ 2 bên thờ vọng các thế hệ trước của người Việt. Đền đã trở thành địa chỉ văn hóa quen thuộc của du khách trong và ngoài nước. Hàng năm vào ngày 10/3 âm Lịch nơi đây diễn ra hoạt động Giỗ Tổ của nhân dân thành phố.