ગાંધીજી 1915ની શરુઆતમાં દક્ષિણ આફ્રિકાથી ભારત પરત ફર્યા હતા. તેમના આવતાં પહેલાં કેટલાંક મહીના પહેલાં તેમણે વિદ્યાર્થી કાર્યકર્તાની એક ટુકડી અહીં મોકલી હતી. તે ટુકડી હરીદ્વારના એક ગુરૂકુળમાં અને પછી શાંતિની કેતનમાં રહેતી હતી. ગાંધીજી પહેલાં સીધા ત્યાં જ ગયા હતા. તેમનો વિચાર ગુજરાતમાં પોતાનું જાહેર જીવન શરૂ કરવાનો હતો. તેથી તેમણે ગુજરાતનું મુખ્ય શહેર અમદાવાદ પસંદ કર્યું હતું. કોચરબ ગામની પાસે એક બંગલો ભાડે રાખીને 25 મે 1915ના રોજ તેમણે સત્યાગ્રહઆશ્રમની સ્થાપના કરી હતી.
સત્યાગ્રહ આશ્રમમાં બધા કામ જાતે કરવાના થતાં હતા. સંસ્કૃત, હિંદી, તમીલ, ગુજરાતી ભાષાઓનો અભ્યાસ તથા હાથથી કપડાં બનાવવાની પ્રવૃત્તિ મુખ્ય હતી. નોકર નહીં રાખવાનો નિયમ હતો. ભોજન, સફાઈ, પાણી ભરવું જેવા કામો જાતે જ કરવાના હતા. ગાંધીજી પણ આ બધા કામ જાતે જ કરતાં હતા. સત્ય, ઇહિંસા, અસ્વાદ, અસ્તેય, અપરિગ્રહ, વગેરે 11 વ્રત બધા આશ્રમવાસીઓને કરવાના હતા. જાતિ ભેદ નહીં કરવું એવો નિયમ હતો. અસ્પૃશ્યતાને આશ્રમમાં કોઈ સ્થાન ન હતું. જે દૂર કરવા માટેની પ્રવૃત્તિ માની હતી. મહિલાઓ પર મૂકવામાં આવેલાં બંધનો દૂર કરવાની સામાજિક પ્રવૃત્તિ ગાંધીજીએ શરૂ કરી હતી. તમામ ધર્મ એક છે એવો નિયમ આશ્રમમાં હતો.
ભણેલા ન હોય એવા લોકો આવવાં લાગ્યા તેથી તેમના માટે અક્ષરજ્ઞાન આપવાની વ્યવસ્થા કરવામાં આવી હતી. આશ્રમમાં રહેતાં લોકો તેમને શિક્ષણ આપવામાં પુરતાં નહીં પડે તેથી બહારથી શિક્ષકો લાવ્યા હતા, જેમાં રાષ્ટ્રીય શિક્ષમનો પ્રયોગ શરૂ કરવામાં આવ્યો હતો. થોડા જ સમયમાં જગ્યા નાની પડવા લાગી હતી તેથી બીજો બંગલો ભાડે લેવામાં આવ્યો હતો. એક આશ્રમ વિભાગ અને બીજો શિક્ષણ વિભાગ કરવામાં આવ્યો હતો. પણ આશ્રમ માટે બંગલા અનુકુળ ન હતા. તેથી નવી જગ્યા શોધવામાં આવી. સાબરમતી જેલની પાસે 36 એકર જમીન શોધી કાઢવામાં આવી. જેલ અને દૂધેશ્વર સ્મશાન પાસે જમીન લેવામાં આવી હતી. 1917ના ચોમાસાની શરૂઆતમાં જમીન મળી હતી. તેથી ગાંધીજીએ નક્કી કર્યું હતું કે ચોમાસું પૂરું થાય એટલે તુરંત આ સ્થળે રહેવા આવી જવું. પરંતુ એજ સમયે અમદાવાદમાં ભયંકર પ્લેગ ફાટી નિકળ્યો હતો. તેથી ચોમાસામાં જ સાબરમતી આશ્રમ માટે લીધેલી જમીન પર આવી જવું પડ્યું હતું. જ્યાં તંબુ બાંધીને બધા રહેવા લાગ્યા હતા. અહીં કોઈ મકાન ન હતું કે કોઈ વૃક્ષ પણ ન હતું. બધી જ જમીન પર ઘાંસ, કાંટાના છોડ હતા તે સાફ કરીને રહેવાનું શરૂ કરાયું હતું. ચોમાસુ પૂરું થયું તેની સાથે જ મકાન બનાવવાનું શરૂ કર્યું હતું. કૂવો ખોદવાનું શરૂ કરાયું હતું. જમીન મોટી હતી તેથી અહીં ફુલ છોડ ઉગાડીને ખેતી શરૂ કરી દેવામાં આવી હતી. ચટ્ટાઈની ઝૂંપડી બનાવીને તેમાં શાળા શરૂ કરવામાં આવી હતી. પછી જેમ જેમ મકાન બનતાં ગયા તેમ તેમ શાળા, વસ્ત્ર ઉદ્યોગ માટે તથા પછી ગૌશાળા શરૂ કરવામાં આવી હતી.
23 એપ્રિલ 1928માં આશ્રમના પ્રાણ એવા મગનલાલભાઈ ગાંધીનું અવસાન થયું હતું. તેઓ મગન નિવાસમાં રહેતાં હતા. સત્યાગ્રહ લોકો સુધી પહોંચી શક્યો નથી તેથી માત્ર હ્રદયકુંજ વિસ્તારને જ સત્યાગ્રહ આશ્રમ નામ રાખવામાં આવ્યું હતું. બાકીના વિસ્તારને આ નામથી ઓળખવામાં આવતો ન હતો.
1915થી 1060 સુધીમાં ગાંધી આશ્રમના જે મકાનો બન્યા હતા તેમાં કન્યાછાત્રાલય, કન્યાછાત્રાલયનું ભોજનાલય, નન્દિની – અતિથિગૃહ, એંજીન રૂમ, અતિથિગૃહ, નન્દલાલભાઈનું મકાન, મીરા કુટીર, હ્રદય કૂંજ – ગાંધીજીનું નિવાસ સ્થાન, મગન નિવાસ, તેલ-ઘાણીનો શેડ, જુની ગોશાળા, નવી ગોશાળા, ગાયોનો વાડો, ગૌશાળા, ગૌશાળા કાર્યાલય, કાર્યાલય અને દુગ્ધાલય, નવી ગૌશાળા, પરિવારોના નિવાસ સ્થાન, ગાંયોનો વાડો, મજુરોની ઓરડીઓ-4, ચીનુભાઈ શેઠની ગોશાળા, ક્વાર્ટર્સ, કુટુંબ નિવાસ-ચપ્પલ કાર્યાલય, જ્યોતિર્ભવન, છ ઓરડી, સાત ઓરડી, રંગશાળા, જમના કુટીર-3, આનંદભવન, ઈમામ મંજિલ, કુટુંબ નિવાસ, સાબુનું ગોડાઉન, વ્યાયામ શાળા, કુટુંબ નિવાસ-શ્રીનારાયણદાસ ગાંધીવાલા, શિક્ષક નિવાસ-2, શિક્ષક નિવાસ, શાળાનો સ્ટોર રૂમ, આશ્રમ વિદ્યાલય, બાલમંદિર, ગ્રામસેવક-તાલીમ વર્ગ, જૂનું રસોઈ ઘર, ચરખા સંઘનું મકાન, સ્ત્રી અધ્યાપન મંદિર છાત્રાલય, કુટુંબ નિવાસ 10 ઓરડી, સેવા નિવાસ, પાણીની નવી ટાંકી, સ્ત્રી અધ્યાપન મંદિર, ગ્રામોદ્યોગ કારખાનું, પ્રિઝર્વેશન ટ્રસ્ટ સ્ટાફ ક્વાર્ટરનો સમાવેશ થાય છે. ગાંધીજીએ 1915માં આશ્રમ છોડ્યો પછી પણ અનેક મકાનો બન્યા હતા.
અહીં રહેતાં કુટુંબો પોત પોતાના ઘરમાં રસોઈ બનાવતાં હતા તેથી ગાંધીજીએ પછી નક્કી કર્યું કે એક જ રસોડે બધા જમશે. એક સરખું ખાવાનું રહેશે. એવો નિયમ પણ બનાવવામાં આવ્યો હતો કે જેમણે બ્રહ્મચર્ય પાળવું ન હોય તે આશ્રમ છોડીને જતા રહે. ગાંધીજી મહિલાઓ અને પૂરૂષો માટે એમ અલગ જ વિભાગ રાખવા માંગતા હતા પણ આશ્રમના લોકોએ તે બાબતનો વિરોધ કર્યો હતો અને કુટુંબોને સાથે રહેવાની મંજૂરી મેળવી હતી. જો કે એક એવો નિયમ બનાવાયો કે હવેથી જે કોઈ નવા આશ્રમ વાસીઓ આવશે તેમણે પતિ પત્નીએ અલગ રહેવાનું રહશે.