Năm 1516, vua Lê Chiêu Tông đã cho dựng hành cung rồi sai đào sông, khai suối quanh núi để du ngoạn mỗi khi nhàn rỗi. Hiện nay xung quanh núi Tử Trầm còn lưu giữ nhiều di tích kiến trúc như chùa Long Tiên, chùa Quan Âm, chùa Vô Vi, chùa Ba Lang, đền thờ Cao Sơn, đền Mẫu...
Núi Tử Trầm có nhiều hang động kỳ thú. Động Long Tiên là một động đẹp, cửa hang không lớn nhưng lòng hang rất rộng và cao. Trên trần và vách hang buông rủ xuống hàng trăm nhũ đá với nhiều hình thù kỳ lạ. Trong động có nhiều di vật có giá trị lịch sử và nghệ thuật, đặc biệt là pho tượng A Di Đà ngồi thiền trên tòa sen với vẻ mặt đôn hậu, trầm mặc suy tư, miệng thoáng cười cảm thông cứu độ. Tượng được trau chuốt tinh xảo đến từng chi tiết nên trông rất sinh động. Trên trần và vách đá gần cửa hang có nhiều bút tích của danh tài nho sĩ từ cuối thời Lê đến đầu thời Nguyễn với gần 20 bài văn, thơ ca ngợi cảnh đẹp của núi Tử Trầm.