Гурвантэс сум нь 1954 онд анх Тост нэртэйгээр одоогийн Сэврэй сумын 1 дүгээр баг, Ноён сумын 3, 4, 5 дугаар багууд нийлж Улаан толгой гэдэг газар 281 өрх, 943 хүн амтай, 63,2 мянган малтай байгуулагджээ. 1959 онд орон даяар нэгдэлжих хөдөлгөөн ялсаны үрээр, 1960 онд БНМАУ-ын Ардын Их Хурлын Тэргүүлэгчдийн зарлигаар Гурвантэс сум гэж нэрлэгдэн, одоогийн байрлаж байгаа Уртын дэнжид төвлөрсөн байна.