Krátku učiteľskú kariéru po absolvovaní školy prerušila vojna. Niekoľko mesiacov pred jej koncom ho ako vojaka Červenej armády zatkli, bili a vypočúvali kvôli listom z frontu adresovaných kamarátovi. Spochybnil v nich spôsob, akým Stalin viedol vojnu, pričom ho nazýval rôznymi výsmešnými menami. Osemročný trest si odkrútil v rôznych táboroch gulagu. Definitívne sa rozišiel s komunizmom a prešiel duchovnou premenou, veľkú úlohu u neho až do konca života zohrávala pravoslávna viera. Po prepustení z gulagu a rokoch vo vyhnanstve v Kazachstane, počas ktorých takmer umrel na rakovinu, sa roku 1956 vracia do Moskovskej oblasti. O šesť rokov neskôr sa z neznámeho stredoškolského učiteľa stane literárna hviezda, po Chruščovovom páde však prichádzajú represie, konfiškácia časti diela aj archívov a prenasledovanie zo strany KGB. V roku 1970 dostáva Nobelovu cenu za literatúru, čím sa politický tlak ešte viac stupňuje, KGB sa dokonca pokúsi o atentát. Po vydaní Súostrovia Gulag na Západe ho roku 1974 zatknú (stihne si so sebou zobrať ošúchanú čiapku a opotrebovaný kabát z ovčej kože, ktoré si priniesol z vyhnanstva), zbavia sovietskeho občianstva a vyhostia z krajiny.