По рассказам свидетелей, в какой-то момент тело упало с двери, и его начали пинать ногами. Похоронщики переносили тело Османа с места на место, пока не нашли участок сада, где никто не помешал им произвести погребение и прочитать молитву. Но и тут, опасаясь преследований, они не положили его как следует, а просто засыпали землей.
Не успели Османа закопать в его собственном саду, как начались выборы нового халифа. Все кандидаты были представителями курейшитов, политической и финансовой элиты арабов: избирать кого-то другого никому уже не приходило в голову. Египтяне стояли за Али, басрийцы – за Талху, куфийцы склонялись к Зубейру. Но авторитет Али перевесил, и он был единогласно избран халифом. На следующий день новый правитель произнес речь, пообещав справедливо разделить деньги между всеми мусульманами и призвав их соблюдать благочестие, а не гоняться за мирскими благами: «Вы – рабы Аллаха, и деньги – деньги Аллаха, они делятся поровну, и нет в этом преимущества одного перед другим». Свои слова он тут же подтвердил делом, раздав все имущество Османа и выдав каждому, независимо от богатства и знатности, по три динара. Убийц Османа он не порицал и не одобрил, а в частной беседе с соратниками признал, что ничего не может сделать с мятежниками и остается только ждать, пока времена изменятся: царство шайтана не вечно. Действительно, выждав удобный момент, Али укротил и выслал наводнявших Медину чужаков и навел порядок в городе. Одновременно он разослал своих представителей по всем провинциям, чтобы утвердить свою власть на местах.
Али, как зять и воспитанник Пророка, женатый на его дочери Фатиме и внучке Умаме (всего у него было 8 жен), мог считаться естественным лидером ислама. Однако положение Али было шатким. Его поддерживали в Медине, но не в провинциях, где власть по-прежнему принадлежала Омейядам. Муавия в Сирии и не думал повиноваться новому халифу. Когда в Дамаск привели окровавленную рубашку Османа, сирийцы поклялись отомстить убийцам. Муавия демонстративно прислал Али пустой конверт (в нем был только заголовок: «Во имя Аллаха, милостивого, милосердного»), говоря тем самым, что обсуждать им нечего, пока Осман не будет отомщен. В Египте Амр аль-Ас объявил: нет в Египте наместника кроме Амра. Чтобы удержать свой пост, Амр присоединился к Омейядам, которых возглавлял теперь Муавия.