Мәдинадағы Әбу Әйуб әл-Ансаридың (р.а.) үйіне орналасқаннан кейін алғашқы кіріскен ісі – жұртты бір жерге жинап, түрлі мәселелерді шешіп, ғибадаттарын еркін орындайтын мешіт құрылысын бастады. Мұның артынша мұһажир мен ансарларды бір-бірімен бауыр етті. «Мәдина заңдары» деп аталған заңдар жинағын құрастырды. Бұл заң Мәдина халқын да, маңайдағы елді де қамтыды.
Олай болса, Пайғамбарымыз (с.а.с.) Мәдина қаласына барғанда үш негізді қалыптастырды.
Біріншісі – мешіт тұрғызу.
Мешіт орны болып Пайғамбарымыз алғаш Мәдинаға келген кезде, оның түйесі шөккен жер белгіленді. Ол жер Нәжжарұлдарының елшісі Әсад ибн Зүрараның қамқорлығындағы Сәхл мен Сүхәйл деген екі жетім жігіттің жері болатын. Екі жігітті Пайғамбарымыз (с. ғ. с. ) шақырып алып, жерді сатуларын сұрайды. Екі жігіт болса: «Уа, Аллаһтың елшісі! Біз бұл жерді
тегін береміз», – деп ақысыз беретіндігін айтады. Алайда Расулаллаһ (с. ғ. с. ) хазірет Әбу Бәкірге айтып, он динарға жерді сатып алады (Бұхари 4/258; Ахмед ибн Ханбәл, Мүснәд, 3\221 (13231)) . Бұл жерде ескі үйлер мен бірнеше қабір бар екен. Пайғамбарымыздың (с.а.с.) бұйрығымен мешіт жерін тікен мен талдан тазартты, қабірдегі сүйектер алынып басқа жерге көмілді.
Мешіт құрылысына барлығы жұдырықтай жұмыла қызмет етті. Біреулері кесек құйып, біреулері тас тасып, ал біреулері қабырға қалап жатты. Мешіттің үстін қалай жабамыз дегенде Пайғамбарымыз (с.а.с.):
«Мұсаның көлеңкесі секілді етіп жабамыз, бұдан басқа да маңызды шаруалар күтіп тұр», – деп, төбесін құрманың жапырақтарымен жауып, еденіне құм араласқан уақ тас төседі. Құрылыстың қиындығынан гөрі жамағаттың ішкі тебіренісі басым болды. Көпшіліктің: «Уа, Аллаһ тағалам, ақирет жұртынан артық мекенді білмейміз! Ансарлар мен мұһажирлардың дінге жанашырлық танытқанына өзің көмек бере гөр! (Таялиси, Мүснәд, 1\277 (2085); Ибн Сағыд, Табақат, 1\240) – деп дұғаны өлеңдетіп, құдды мереке тойлап жатқандай әсер қалдырды.
Бұл бір жағы жаңа бір мәдениеттің қалыптасуы еді. Бірлік пен берекенің нышаны – мешіт. Мұсылмандар үшін дүниелік істерден бір уақыт қол үзіп, бір сапқа тұрып құлшылық қылу – бірлікке шақыратын бірінші іс. Ғибадат үшін бір жерге жиналмай, әрқайсысы өзінше намаз оқып үйіне қайтса, әділет пен теңдік сипаты өзімшілдік пен жеке басының қамын ойлаудан асып кете алмайды, бірлік рухы болмайды.
Екіншісі – мұсылмандарды бір-біріне бауыр ету.
Ислам дінінде бауыр болу, бір туғаннан да артық. Дін жолында бауыр болғандарды дүние де, мансап- дәреже де бұза алмайды, өйткені дәреже тақуалықпен ғана өлшенеді. Негізінде, қандай да бір мемлекет алға басуы үшін бірлік пен халықтың бір-біріне деген бауырмашылдығы керек. Араларында шын бауырмашылдық, жанашырлық болмаған қоғам бір ұстанымды қазық етіп бірігуі мүмкін емес. Сол себепті Пайғамбарымыз (с.а.с.) сахабаларын бір-бірімен бауыр етті. Мысалы, Сағд ибн Рабиғ мен Абдуррахман ибн Ауфты бауыр етті. Сағд ибн Рабиғ өзінің үйі мен мал- мүлкінің жартысын, тіпті қос әйелінің қалағанын Абдуррахманға ұсынды, бірақ байыпты сахаба оған алғысын білдіріп, сауда жолын көрсетуді өтінді. Негізінде, мұсылмандарды бір-біріне бауыр ету үрдісі алғаш Меккеде тек мұһажирлер арасында, екінші рет Мәдинада мұһажирлер мен ансарлар арасында жүзеге асты (Фатхүл Бари 7/191) .
Үшіншісі – мемлекет заңдарын құру. Мәдина халқының этникалық әрі діни сенім ерекшеліктерін ескере отырып, бейбіт әрі ортақ өмір сүруді қалыптастыру маңызды еді, өйткені ол кезде Мәдинаның халқы он мың шамасында болатын. Олардың мың бес жүздейі мұсылмандар, төрт мыңға жуығы яһудилер, қалғандары араб мүшріктері болатын. Олай болса, осындай әртүрлі сенім иелері арасында ортақ келісімге келуге Мәдина халқы қатты мұқтаж еді, өйткені ғасырлар бойы Әус пен Хазраж арасындағы соғыс жалғасып жатты. Руаралық қақтығыстарды былай қойғанда, Қайнуқа, Надыр және Құрайза арасында жік-жікке бөлініп соғысу да жиі болатын. Руаралық
қақтығыстың жиі болуы елдің әлеуметтік жағдайын төмендетіп, керуендер тоналып қалмау үшін Мәдинаны айналып өтетін болды. Тіпті, Мәдинада өмір сүрген тайпалардың өзі мезі болған осындай соғыстарды тоқтатып, барлығын бір орталыққа жинайтын сыртқы күшті күтті. Аллаһ елшісі (с.ғ.с.) осы жағдайдың оңтайлы шешімін тауып, Мәдинада бейбіт заманды қамтамасыз ету үшін барлық руды бір жерге жинап, келісімшарт жасады.