На февральско-мартовском 1937 пленуме ЦК ВКП(б) Сталин, опираясь на результаты двух первых московских процессов, подвел идеологическую основу под террористический удар, который обрушился на партию несколькими месяцами позднее. Сталин утверждал, что по мере приближения социализма классовая борьба будет обостряться, так как остатки разбитых эксплуататорских классов, проникшие повсюду, будут оказывать наиболее ожесточенное сопротивление. В действительности Сталин опасался, что различные слои правящей элиты действительно могут оказать сопротивление созданию централизованной партии, беспрекословно подчиняющейся вождю. Особенно резко Сталин выступал против процесса образования фракций в структуре ВКП(б). Партийные лидеры не решились в этих условиях открыто возражать Сталину. Запущенная машина террора заработала на полные обороты.
Сталин обоснованно опасался вмешательства военных в случае начала уничтожения большевистской элиты, не причастной к открытой оппозиции. В мае 1937 были арестованы Тухачевский, Якир, Уборевич и другие высопоставленные военачальники. Арестованные признались в заговоре, дав показания на своих многочисленных сослуживцев. Сразу же после процесса по «делу военных» генералы были расстреляны. Чистка армии продолжалась до 1938, репрессии против военных полностью обезопасили сталинскую группировку от угрозы военного переворота. Погибли тысячи командиров, имевших опыт Гражданской войны. У Сталина были некоторые основания опасаться заговора военных, среди которых было немало недовольных его полититкой
Сталин спокойно уничтожал и тех, кто не решился на сопротивление ему. Сталкиваясь с угрозой (реальной или потенциальной), вождь наносил «удары по площадям» и таким образом в корне ликвидировал опасность своей власти. В 1940 по указанию Сталина в Мексике был убит Троцкий, в самом существовании которого «вождь» видел угрозу своей власти. В 1937-1938 гг. в ходе Большого террора была уничтожена значительная часть коммунистических руководителей и рядовых граждан, виновных лишь в причастности к потенциально опасным социальным группам – от бывших кулаков до членов оппозиционных партий. Уничтожение любых структур, которые «не вписывались» в сталинскую модель общества завершало формирование централизованного и максимально монолитного тоталитарного общества, которое Сталин называл социалистическим.
В конце 1938 основная задача террора была выполнена. Был был снят с поста Ежов, в 1939 его преемником стал Л. П. Берия, который провел новую чистку НКВД (на этот раз от ежовских кадров) и амнистию небольшой части заключенных. По данным КГБ СССР в 1930-1953 гг. количество жертв сталинского террора, подвергшееся репрессиям составило 3778234 человека, из которых 786098 было расстреляно, а остальные были направлены в лагеря. По другим оценкам, число жертв значительно превышает эти цифры.
При этом машина государственной пропаганды создала культ личности Сталина, его обожествления в стране. Сталин был объявлен «лучшим другом» шахтеров и полярников, детей и пограничников. На долгие годы Сталин окружил себя послушными исполнителями, смертельно боявшимися его. Во время большого террора в сентябре 1938 в стране произошло еще одно важное политическое событие — был опубликован «Краткий курс ВКП(б)», который стал главной вехой в формировании сталинской концепции истории партии большевиков. Сталин, лично редактируя «Краткий курс», «переписал» в соответствии с собственным пониманием истории партии. С первых шагов пропаганды «Краткого курса» складывалась тенденция абсолютизации его положений, формулировок, выводов. «Краткий курс» стал «библией» не только для коммунистов, но и для всех советских граждан, которые были обязаны со школьной скамьи его изучать.