Эти пещеры находятся в верхней части высоких известняковых гор, которые имеют очень сложный рельеф.

Этот обширный храмовый комплекс считается главной достопримечательностью в окрестностях столицы. Местные жители народности оранг-асли знали о существовании пещер очень давно, а всемирную известность они завоевали только после 1878 года, после того как здесь побывал американский натуралист Уильям Хорнадей. Его впечатлили размеры и красота самой большой пещеры. Именно он указал, что пещера очень похожа на храм и уже в 1890-х годах она стала святилищем, которое соорудили в честь индуистского бога Муругану. Спустя немного времени, святилище стало основным местом паломничества малазийских индусов. Особенно много паломников (иногда их число превышает даже миллион) направляются сюда в конце января — начале февраля, во время празднования тайпусам. 

Вход в храмовый комплекс украшен золотой 43-метровой статуей Муругана, от которой по ступеням можно попасть к главной пещере. Эта пещера, высота которой составляет 100 метров, известна как Храмовая пещера. Естественные отверстия в ее потолке обеспечивают частичную естественную освещенность, благодаря которой можно рассмотреть многочисленные скульптурные изображения Муругана, Шивы, Дурги, Ганеши и других индуистских богов, которые расположены вдоль стен. На потолке пещеры изображены отдельные сцены священных индуистских текстов.

За главным святилищем расположена еще одна интересная пещера, где находится статуя бога Рамы. Великолепные статуи индийских богов можно увидеть и в других пещерах: как в больших, так и в маленьких.