Однако господство Аббасидов совпало с постепенным разделением и фрагментацией монолитного исламского государства. Мусульманские правители Иберии (иногда их называют маврами) в VIII веке откололись, чтобы создать независимое королевство, одновременно продолжалось отчуждение между суннитами и шиитами. Общины мусульман-шиитов продолжали жить, по большей части мирно, рядом и среди суннитов по всему Ближнему и Среднему Востоку. Но в 969 году особенно агрессивная шиитская группировка захватила контроль над Северной Африкой. Ведомые династией, известной под именем Фатимидов (поскольку они утверждали, что являются потомками Фатимы, дочери Мухаммеда), они создали собственный шиитский халифат, отвергнув власть суннитов Багдада. Фатимиды скоро доказали, что являются могущественными противниками, отвоевав у Аббасидов обширные территории Ближнего Востока, в том числе Иерусалим, Дамаск и часть побережья Восточного Средиземноморья. К концу XI века Аббасиды и Фатимиды считали друг друга заклятыми врагами. Таким образом, к началу Крестовых походов в исламе существовал раскол, который не позволил мусульманским правителям Египта и Ирака организовать общее сопротивление вторжению христиан.