Кроме того, Александр Иванович поддержал краеведов и музыкантов, которые предложили возродить усадьбу Рахманинова «Ивановка».
В 1982–1985 годах был избран секретарем Тамбовского обкома КПСС, а затем председателем Тамбовского облисполкома.
После августовских событий 1991 года был избран председателем Тамбовского областного Совета народных депутатов. С 1994 по 1995 годы Рябов был председателем Тамбовской областной Думы первого созыва. Под его руководством формировались практики работы нового законодательного органа региона. Был разработан и принят Устав Тамбовской области, который с подачи Конституционного Суда России был рекомендован как модельный для других субъектов Федерации.
В 1995–1999 годах возглавлял администрацию Тамбовской области. В 1996–1999 годах Александр Рябов являлся членом Совета Федерации ФС РФ, где возглавлял комитет по вопросам безопасности и обороны, представлял интересы РФ в Парламентской ассамблее Совета Европы, был членом Межпарламентской Ассамблеи стран СНГ. С 2000 года работал советником председателя Совета Федерации ФС по региональной политике.
За десятилетия труда был награждён орденами Дружбы народов, «Знак Почёта», медалями, Почётной грамотой Правительства Российской Федерации, орденом РПЦ.
Скончался Александр Иванович в июне 2019 года, был похоронен в Тамбове на Воздвиженском кладбище.