Религиозная группа духоборов появилась в России во второй половине XVIII века. Духоборы не признавали какую-либо власть, в том числе церковную. Они отказывались платить налоги, проходить обязательную военную службу и не признавали крепостного права. Царская власть видела в них потенциальную угрозу для стабильности страны и поставила ультиматум: либо они принимают православие, либо переселяются на Кавказ. Так духоборы появились в Грузии. Гореловка стала центром духоборского восстания, вспыхнувшего из-за введения в Закавказье всеобщей воинской повинности. Восстание подавили казаки, несколько сот семей переселили из Джавахети в Кахети.
В защиту духоборов активно выступил Лев Толстой. Он специально закончил  отложенный роман «Воскресение» и использовал гонорар для строительства школы и переселения значительной части духоборов в Канаду. Вторая волна эмиграции пришлась на 1990-е годы. Сегодня в Ниноцминдском районе живут около 170 духоборов, а Гореловка – место паломничества их единоверцев со всего мира.
В октябре 2003 года по ходатайству Союза русских женщин Грузии «Ярославна» (председатель Алла Беженцева) и при поддержке Министерства образования и науки Грузии Гореловской школе было присвоено имя Л. Н. Толстого, а трем педагогам и директору школы были вручены правительственные награды. Тогда же по инициативе Международного культурно-просветительского Союза (МКПС) «Русский клуб» (президент Николай Свентицкий) повесили мемориальную доску, посвященную Л.Н.Толстому.
В 2011 году посещение этой школы стало главным  событием для участников «Дней Льва Толстого в Грузии», организованных «Русским клубом» и музеем-усадьбой Льва Толстого «Ясная Поляна».  
В советские годы в этой школе учились до 450 ребят, сейчас здесь около 40 детей, в основном, из духоборческой общины Ниноцминдского района. Они регулярно получают новогодние подарки от «Русского клуба», и Союза русской молодежи Грузии, участвуют в различных мероприятиях, проводимых этими организациями.
«Статус, присвоенный нашей школе, - говорит директор учебного заведения Татьяна Карева, - обязывает нас быть более ответственными и сохранять культурное достояние предков».