Thác Bờ xưa còn gọi là thác Vạn Bờ được tạo bởi hàng trăm mỏm đá lớn nhỏ nhấp nhô như đàn voi khổng lồ giữa dòng sông Đà gầm thét ồn ào, sinh ra một kỳ khu hiểm lộ. Theo sách Kiến văn tiểu lục của Lê Quý Đôn chép rằng: "Đường sông - tức sông Đà - thác ghềnh hiểm trở gồm 83 thác có tiếng mà Vạn Bờ là thác nguy hiểm thứ nhất”. Theo tương truyền, đền Bờ thờ bà chúa Thác Bờ là bà Đinh Thị Vân, người dân tộc Mường và một bà người dân tộc Dao (không rõ tên) ở Vầy Nưa. Hai bà đã có công giúp vua Lê Lợi về quân lương, thuyền mảng vượt thác Bờ tiến quân lên Mường Lễ, Sơn La dẹp loạn đảng Đèo Cát Hãn. Sau khi mất, 2 bà thường hiển linh giúp dân vượt thác an toàn, phù hộ cho trăm dân trong vùng mưa thuận, gió hoà nên nhân dân đã phong 2 bà làm thánh và lập đền thờ phụng. Vua Lê Lợi truy phong công trạng, ban chiếu cho dân lập đền thờ.

Sự hình thành đền, miếu và việc thờ chúa Thác Bờ thể hiện niềm mong ước cầu cuộc sống bình yên, hạnh phúc của nhân dân, là sự thành kính trước thiên thần, nhân thần, là nét đẹp tâm thức tín ngưỡng của nhân dân trong tỉnh. Bia còn có tên là bia cổ Hào Tráng, được khắc trên một phiến đá lớn ở sườn núi Thác Bờ, xã Hào Tráng, huyện Đà Bắc trước đây. Đó là mỏm đá vôi được mài nhẵn cao hơn 4 m, tạo thành một mặt phẳng, bề dài gần 1,5 m, cao gần 1 m. Về tấm văn bia khắc trên đá của vua Lê Lợi tại Thác Bờ, tương truyền, sau khi dẹp xong loạn Đèo Cát Hãn, trên đường về kinh, nhà vua chọn vách đá đẹp rút kiếm, cọ mài, đề tiểu dẫn và bài thơ thất ngôn bát cú. Bài thơ tựa nói "Ta đi đánh Đèo Cát Hãn về qua đây, làm một bài thơ, nói về đường lối phong nhung địch cho đời sau biết”. Việc vua Lê Lợi đề thơ trên đá vừa có ý nghĩa khẳng định chủ quyền về mặt cương thổ đất nước lúc bấy giờ, vừa răn đe, giáo hóa những kẻ có mưu đồ phản nghịch, một mặt cho thấy tài thao lược "Hùng tâm, tráng chí” và mong muốn giang sơn muôn thuở bền vững, thái hòa của vua Lê Thái Tổ. Bia là một trong những văn bia của các vị vua phong kiến Việt Nam ở xa kinh thành nhất. Quần thể di tích đền Chúa Thác Bờ, bia Lê Lợi có cảnh quan thiên nhiên tươi đẹp, hài hòa, thân thiện với thiên nhiên, là điểm du lịch tâm linh văn hóa, lịch sử đem lại sự bình yên và cảm nhận tốt đẹp cho du khách gần xa.