Căn cứ vào các nguồn tài liệu khác nhau thì đình Khiển  được dựng vào thời vua Lê Hiển Tông, niên hiệu Cảnh Hưng (1740-1786). Đình Khiển nay thuộc khu Gò Làng Trung xã Sơn Tình cũ (nay thuộc xã Phong Thịnh huyện Cẩm Khê). Đình thờ thần Cao Sơn hay Cao Sơn đại vương, là tên gọi của vị tướng Cao Sơn thời Hùng Vương thứ 18 (Hùng Duệ Vương) đã có công lao to lớn giúp Vua Hùng đánh đuổi quân xâm lược nhà Thục. Khi mới xây dựng, đình có cấu trúc hình chữ Nhất, hai gian bằng tre nứa, lợp lá cọ gồi. Năm 1937, nhân dân đóng góp tiền của dựng lại đình bằng gỗ mít. Năm 1942, đình được chuyển từ trên đồi cao xuống vị trí hiện tại. Từ năm 1964, đình bị xuống cấp nghiêm trọng; đến năm 2007, chính quyền và nhân dân địa phương cho phục dựng lại bằng vật liệu bê tông, cốt thép.Hiện nay, Đình nằm trong khuôn viên diện tích 571,4m2,  trên khu đất bằng phẳng, cao ráo, mặt quay hướng Đông Bắc, phía trước đình xây thành nghi môn dạng trụ biểu. Tòa chính đình có kết cấu hình chữ Nhất, gồm 1 tòa 3 gian thờ dọc, bộ khung chịu lực với 16 cột bê tông sơn giả gỗ; bộ vì nóc làm theo kiểu giá chiêng, 4 mái có đầu đao cong, lợp ngói mũi hài, nền lát gạch bát. Đình Khiển không xây hệ thống bao quanh mà để thông thoáng, gian trong cùng tạo thượng cung và khám thờ với xà rồng và cửa bức bàn.