Шибам расположен на горном выступе, размеры которого составляют двести пятьдесят на триста восемьдесят метров. Все дома здесь построены достаточно близко друг от друга, таким образом жители хотели защитить свой город от набегов кочевых бедуинов. Хотя селению уже около одной тысячи семисот лет, многие его сооружения были возведены в шестнадцатом веке. В пределах городских стен находится пятьсот домов, самым высоким из которых является восьмиэтажное здание.
Все сооружения построены из сырцового кирпича, а их фасады покрыты смесью из соломы и земли. Покрытие требует постоянной поддержки и обновления, однако многие местные жители просто не могут себе этого позволить, поэтому большинство домов в Шибаме выглядят так, словно они заброшены.