Кавкабан находится на вершине горы Джебел Кавкабан, в 350 метрах выше Шибама. Город построен из песчаника, который появился здесь около 70 млн. лет назад и со временем образовал широкое плато.

Кавкабан отделен от плато глубоким узким ущельем Кита, образовавшимся в результате разлома земной коры. Кита было частично заполнено разрушенными обломками кавкабанских домов, когда в конце XII века на город напал командир айюбидов Тугтакин. До сих пор рядом с городом можно увидеть огромные валуны, которые запускались из баллисты, чтобы разрушить защитные стены. 

Вдоль ущелья ведет узкая тропа, по которой можно идти пешком или ехать верхом на осле. Весь подъем в Кавкабан займет не больше часа.

Внутри города находится много строений, успешно переживших нападения айюбидов, турок и расулидов. Они построены из особой породы песчаника теплого медового оттенка. 

Мужественные кавкабанцы пережили осады и многочисленные войны, но в 1962 году они подверглись еще одному испытанию. Во время революции была произведена мощная наземная и воздушная бомбардировка этого района. Пострадало множество человек, а большинство домов были разрушены.