Первыми жителями Рассказовского края были не только православные люди. Например, село Татарщина основано татарами предположительно в 1697 г. До 20-х годов ХХ века здесь находились мечеть и мектеб. Мечеть сожгли во время гражданской войны. Тем не менее, в селе и в течение всего советского периода были имамы. Среди жителей во второй половине XIX века, в том числе в Пичере, Верхнеспасском, Нижнеспасском, Рождественском, Каменных Озёрках, было немало сектантов - молокане-уклеинцы (духоборы), субботники (иудействующие), хлысты (постники), в канун революции появились баптисты.
Сектанты волновали православных священников, они неоднократно докладывали церковному начальству и светской власти о том, что молокане или хлысты открыто исполняют свои обряды, регулярно проводят молитвенные собрания. Вскоре официальная церковь начинает борьбу с сектантством и обращает иноверцев в православие. За эту работу священнослужителям даже выплачивали специальное пособие. С 1835 г. такие выплаты получали все рассказовские священники. С этого же года известны первые данные о переходе рассказовских молокан в православие.
Молоканство - одно из ответвлений духоборческой секты. Молоканской общину назвали потому, что представители этого течения не соблюдали установленных церковью постов и ели в постные дни молоко. Они не признавали внешнего поклонения Богу, свободно толковали Святое Предание, отрицали всю церковную обрядность, саму официальную церковь, военную службу, но верили в Троицу, источником истины считали Святое Писание.
На Тамбовщине, которая к ХХ веку по количеству молокан занимала четвёртое место в стране, секта связана с именем уваровца Семёна Уклеина. Вначале он входил в духоборческую общину Иллариона Побирохина (она существовала с 1713 г.).
Однако эти два человека разошлись во взглядах на Библию - Побирохин её отвергал, Уклеин - признавал. В итоге в секте произошёл раскол, и Уклеин стал довольно успешно проповедовать учение самостоятельно. В 1755 г. его арестовывают, но через год выпускают из тюрьмы как раскаявшегося в грехе и обращённого в православие. Семён Уклеин поселился в Рассказове и спустя некоторое время создал первую молоканскую общину.
Дальнейшее распространение этого религиозного учения связано с переселением в Рассказово оброчных крепостных крестьян-молокан помещика В.С. Шереметьева. Во II половине XVIII века они прибыли из села Богородского Нижегородской губернии, основали здесь слободу Белая Поляна, занимались кожевенным, кузнечным промыслами. Быстро обзавелись промышленными и торговыми заведениями, издавали литературу и выпускали свою газету. Молоканами, например, были помещики Желтовы, которые построили в Рассказове молельню (сегодня - здание Дома детского творчества на ул. Комсомольской). Недалеко находилось кладбище: в основном на нём хоронили молокан. В начале ХХ века кладбище перенесли через Главную дорогу, а на старом хоронить перестали; позднее на этом месте прошла железнодорожная ветка.
Субботники - религиозная община, копировавшая иудейские обряды. На Тамбовщине известна с XVIII века. Сильно разрослась с середины XIX в., получив поддержку богатых еврейских общин. Её появление напрямую связано с молоканством.
Примерно с двадцатых годов XIX века среди членов рассказовской молоканской общины начались разногласия (разбогатевшие семьи стали навязывать свои правила и порядки). Часть её членов уходит в секту субботников и даже территориально отделяется от молокан. Субботники вели себя скромно, предпочитали не выделяться. Имелся у них свой молельный дом (позднее здание СШ № 2). Службы велись так: копировались обряды иудеев и несколько изменялись "на свой манер". Субботники изучали еврейские книги Талмуд, Кабалу, Тору, а также Ветхий Завет. Представителями этой общины были купцы Казаковы. В начале ХХ века по численности субботники заметно превзошли молокан. Рассказово даже называли "столицей субботников". Первое присоединение к православию члена этой секты в рассказовском приходе состоялось в 1864 г.
Хлысты (их ещё называли постниками или шелапутами) - секта мистическая. Зародилась в XVII в., а на Тамбовщине впервые упоминается в 1761 году. В Рассказове община разрослась примерно в конце XIX века. Во время своих радений применяли хлыст - отсюда их прозвище. Общины назывались "кораблями", их руководители - "кормщиками", члены общины - "голубями". Хлысты верили, что человек способен напрямую общаться с Богом, а сам Господь или Богородица может воплотиться в избранных. В отношениях царили "особенные" порядки - брак отрицался, мужчины часто меняли "духовных жён", молебен сопровождался оргиями. Жили богато, одевались знатно, ездили на дорогих лошадях, выращивали овощи и фрукты. Хотя в некоторых сёлах хлысты жили довольно тихо и аскетично. Рассказовские хлысты были сплочёнными, вели тайную агитацию и жили на современной улице М. Горького, там же находился их молельный дом и кладбище. К этой общине относился владелец мельницы в с. Платоновке М. Слободской.
Среди других рассказовских общин, правда малочисленных и не имеющих большого влияния, стоит назвать общину баптистов.
С сектами боролись долго. Например, рассказовские молокане подвергались репрессиям и были переселены в Закавказье, в Томскую и Оренбургскую губернии. Известен и судебный процесс 1846 г., по которому осуждено более 200 молокан… Однако ни репрессии, ни суды, ни миссионерская деятельность результатов не возымели, и число сектантов в Рассказове только росло. Финансовые возможности зажиточных молокан и субботников позволяли легко откупиться от притесняющей их официальной власти. Делали это с умом. Например, Желтовы и Проскурины в 1895 г. внесли крупные пожертвования на перестройку Троицкой церкви в с. Большой Богословке.
Всё изменилось после царского Манифеста от 17 октября 1905 года, который даровал России и свободу вероисповеданий. За ним последовало создание в Рассказове официальных общин: "Рассказовская община духовных христиан молокан" (1910 г.) и "Белополянская община молокан с. Рассказово, Рассказовской волости" (1910 г.), "Община субботников" (1907 г.). Преследования прекратились, а лидеры общин стали принимать активное участие в общественной жизни волости. Сектантов не трогали до революции 1917 г. и первое время после неё. Все силы были брошены на борьбу с главным "врагом" - с Православной Церковью. Позднее вспомнили о сектантах - вновь начались аресты и репрессии.