Kayanberd Ağpat və Sanain monastırları arasında yerləşir. Kayanberd strateji cəhətdən Tona çayının üstündəki iki kanyon arasında silsilənin kənarında tikilmişdir.

Qalanın tikintisinin dəqiq ili məlum deyil. Bəzi alimlər onun II Aşot Yerkatın hakimiyyəti dövründə, X əsrdə tikilmiş ola biləcəyini ehtimal edirlər. Qala əsasən xarabalıq halındadır. Divar halqası üçbucaqlı sahə ilə əhatə olunmuş və yarımdairəvi müdafiə qüllələri ilə təmin edilmişdir. Ərazinin içərisində Dsevəng Müqəddəs Tanrı Ana kilsəsi salamat qalmışdır. Kilsə qara tufdan tikilmişdir. Onun mavi, qırmızı və ağ rənglərdə olan günbəzi 1827-ci ildə baş verən zəlzələdə zədələnmişdir. Günbəz qalanın sağ küncündə tikilmiş, onunla xarici divarı bölüşür. Yaxınlıqda çoxlu sayda ev xarabalıqları, gildən hazırlanmış sarnıçlar və su boruları da mövcuddur. Qalanın yaxınlıqlarında yerləşən kənddə erkən dəmir dövrünə aid məzarlıq var.

XI əsrin ortalarında Loru vilayətinin dini mərkəzi olan Ağpat tikilmişdir və bu kilsə Sanain monastırı ilə rəqabət aparmışdır. Orta əsr tarixçisi Kirakos Qandzaketsinin məlumatına görə, Ağpat arxiyepiskopu olan Ovanes qalanı 1233-cü ildə Sanain ərazisində kütləvi müdafiə divarları olan monastır kimi tikmişdir. O, əslən Mxarqrdzeli sülaləsindən olmuşdur. Tikili əvvəlcə Müqəddəs İşarə monastırı adlandırılmışdır. Bundan başqa, Dsevəng və Kayanberd terminləri daha yeni yaranmışdır.

Sanain ərazisindəki vəziyyət iki monastır arasında münaqişəyə səbəb olmuşdu. Yepiskopun ölümündən sonra tatarlar 1241-ci ildə monastırın divarlarını sökmüşdülər. Monastır sonradan bərpa edilmişdir, lakin XIV əsrin sonunda Teymurun qoşunları tərəfindən dağıdılmışdır. Kilsə sonra yenidən bərpa olunmamışdır.