Создан в 1932 году В.П. Дементьевым как учебно-концертный коллектив. Будучи единственным народным оркестровым коллективом на Тамбовщине, оркестр стал центром народного исполнительского искусства и базой профессиональной подготовки будущих преподавателей музыкальных школ нашего региона.

Сегодня оркестром проводится активная концертно-просветительская работа. В репертуаре коллектива концертные сочинения из репертуара профессиональных оркестров – классическая и современная музыка (Чайковский, Рахманинов, Лядов, Гершвин, Сарасате, Дворжак, Свиридов, Губайдулина, Цыганков, Шмотова и др.).

Особое место в деятельности оркестра занимает профориентационная работа с абитуриентами. Так, оркестр часто играет вместе с детским оркестром ДМШ № 2 им. В.К. Мержанова (руководители:  А.П. Моргунов, А.И. Артемьев). За пультом  объединённого оркестра русских народных инструментов колледжа им. В.К. Мержанова при ТГМПИ им. С.В. Рахманинова и  ДМШ № 2 им. В.К. Мержанова в апреле 2016 года стоял Народный артист СССР Владимир Федосеев.

Оркестр является постоянным участником Международного музыкального фестиваля имени С.В. Рахманинова. Участвовал в подготовке совместной программы Государственного академического оркестра национальных инструментов России им. Н.П. Осипова и ДМШ №2. Оркестр русских народных инструментов колледжа сотрудничает с преподавателями и студентами института разных направлений подготовки (с академическим хором (рук. О.В. Немкова), фольклорным ансамблем «Губеренка» (рук. —  О.В. Друцкая) и др.), а также с актёрами Тамбовского государственного академического драматического театра и Тамбовского молодёжного театра.

Руководство коллективом осуществляет лауреат международных конкурсов, лауреат Премии ЦФО в области литературы и искусства, доцент кафедры народных инструментов А.И. Артемьев.