A falut Gyarmathnak, a heiligenkreutzi apátság idején Ruprechtnek nevezték.
Gyarmat területe a Batthyányiak, majd Csáky László birtoka volt.
ll. Géza király a németújvári bencéseknek adományozta Gyarmatot, amit lll. Béla 1183-ban, - megalapítva a szentgotthárdi ciszteri rendet, - tovább ajándékozott a cisztereknek. A falu alapítója Wolfer Walter németújvári gróf volt. Első említése 1157-ből ered. 1393-tól a kegyúri jogokat a Széchy család gyakorolta. 1570-ben Thurzó Erzsébetnek a faluban 10 portálja volt. Az 1600-as években Poppel Lászlónak is volt birtoka.
Két önálló részből állt a falu. A templom és a temető melletti települést Kisgyarmatnak, a Partok lábánál, főleg az erdőirtásokkal elhódított részeken épült Nagygyarmat. 1931-ben kezdett összeépülni a két település, és a postaforgalom megindulásakor kapta Rábagyarmat nevet. Külterületei voltak: Külsőmajor, Erdészlak, Hegy, Rábelház, Siklérház. A családok elhelyezkedései alapján a házközösségekben élők szerekben helyezkedtek el, és kialakultak a családok nevét viselő szerek, így Kovács-szer, Huszár-szer, Dolgos-szer, Kardos-szer és még sorolhatnám tovább. A falu felső végét Fu-végnek, az alsót pedig Ó-végnek is nevezik.
A falu régi múltjára utalnak a területén talált római eredetű cserépmaradványok, pénzérmék, a csiszolt kőkorbeli balta, és a gyarmati agyagból készült ősi cserépmaradványok is.
Területét a lakosság az erdők kivágásával gyarapította. A Rába lapos részein jó minőségű búza, kukorica és dohány termett. 1789-ben Tóth Mihály és testvére négy mázsa dohány termesztett Nagygyarmaton, 1823-ban pedig Takács Jánosnak volt jelentős termése. A földművelésben a bogárhátas, bakhátas szántást honosították meg, amiért nagyon sok volt a családelosztás alapján parcellázódó terület. Lentermesztéssel is foglalkoztak, azt feldolgozták kéziszerszámokkal ruházkodás céljára és ágyneműnek.
A faluban a Rába-völgy éghajlata üde levegőjű. 1924-től Geiszlinger Béla plébános kezdeményezésére a lakosság egy része a városi családok nyaraltatását vállalta jövedelemkiegészítésre. Talaja a folyó völgyében homokos és iszapos, a magasabb teraszos részeken agyagos. A Rába partjait a víz sodra erősen megváltoztatta áradások idején, ezért kanyarok átvágásával szabályozásra is sor került, de nem sok sikerrel.
1570 körül a a falu lakosainak a száma négyszáz körül volt. A törökök megjelenése, portyázásai erősen kihatottak lakosság életére és létszámára. 1600 táján behódoltak és Szigetvárra fizették az adót. 1644-ben négy embert elhurcolta a faluból. 1644-ben a szentgotthárdi csatába vonuló török hadak kirabolták és jórészt felégették a falut. A lakosság elmenekült a sűrű erdős területekre. 1690-ben Kopasz Ahmet olajbég volt a földesúr, ezt követően Radaman Iszpáia, aki az adókat felemelte. Ugyanekkor a falu a császárnak is adózott. 1696-ra az elmenekült lakosság nagy része visszatelepült; a lakók száma 258 fő volt. Az 1700-as évek elején, mint a környékbeli falvak, a gyarmatiak is megtagadták az adózást, a robotot, nem fizettek hegyvámot, és az uradalomból kivágott fát maguk felhasználták vagy értékesítették.
1787-ben 565 főre gyarapodott a település lélekszáma és 79 házból állt. Mezőgazdaságból éltek, de kénytelenek voltak ezt kiegészíteni napszámos munkával, aratással, favágással. Egyik foglalatosságuk a zsindelykészítés volt, amelybe az asszonyok is tevékenyen részt vettek. Nagyon sokan foglalkoztak méhészkedéssel.
1828-ban 653, 1900-ban 1058, 1941-ben 1233 lakó élt a faluban. Ettől kezdve a lélekszám csökkenni kezdett. 1910 és 1949 között a lakók több, mint 80%-a, 1980-ban a 40%-a élt mezőgazdaságból. Viszont folyamatosan nőtt az iparban és a szolgáltatásban foglalkoztatottak száma. 1900-ban 164 zsúpos ház volt, mára már eltűntek. A falu múzeuma is cseréptetőt kapott a jobb fenntarthatóság miatt.
Iskolaépületéről már 1717-ben történik említés. Az első iskolamester neve 1757-ből ismert. 1770-ban a tanító Kötse István volt. 1911-ben épült három tantermes iskola. 1934-1942 között 150-160 tanulója volt átlagban az iskolának. 1953-ban új, négy tantermes iskolát avattak, ahol kilenc tanerő volt és 162-en tanultak a padokban. 1995-től az iskola nyolc tantermes lett 10 pedagógussal.
Templomáról első említés Szécsi Tamás iratai között fordul elő, ahol virágzó plébániát említenek 1439-ben. 1647-ben a templom megsemmisül. 1698-ban újra felépítik. 1726-ban renoválták. 1770-ben újra tatarozták és bővítették toronnyal. Ekkor Szent Lambert püspök nevét vette fel. A rábagyarmati templom azonban első említésénél jóval előbb épült; a feltárt leletek alapján az 1200-as évek elején, amit az ásatások, feltárások, a körötte elhelyezkedő ősi temető bizonyít. 1750-től megmaradtak az anyakönyvei; a keresztelés, halálozás, házasság nyomon követhető. 1868-ban a plébániához Csörötnek és Kondorfa tartozott. A falu lakóinak nagy többsége római katolikus, de a templom 1576 és 1632 között, majd 1647-től 1698-ig a protestáns egyház birtokában volt.
1895-től a csörötneki anyakönyvi kerülethez tartozott a falu. 1990-től önálló jegyzősége van.
Boldizsár nevű malma az 1800-as évek közepén épült. 1911-12-ben hozták létre a Bicsák malmot.
Tulajdonosait koholt vádakkal elhurcolták és így 1950-ben megszűntek.
Az l. Világháborús emlékművet 1921-ben emelték. De van ll. Világháborús emlékmű és az 1848-49-es szabadságharc hőseinek is emléket állítottak. 1969-ben a falu megvásárolta az 1850-ben épített füstös-konyhás lakóházat, amelyet 1970 óta múzeumként működtetnek.
1957-ben villamosították a falut. A vezetékes ivóvizet 1981-ben vezették be. 1994-ben kaptak telefont. Orvosi rendelőt pedig 1987-ben. 1945 után épült kultúrterem, 1963-ban pedig kultúrház. Ide kötődik Ács László tanító, iskolaigazgató és a méltán világhírűvé vált Színjátszó csoport, akiknek tevékenységéről Szabolits Béla filmrendező készített dokumentumfilmet, ami világsikert aratott. Színjátszókörrel 1920-ban került színre az első népszínmű, ami több rövidebb kihagyás után legtöbbször évente bemutatott egy színdarabot.
A sok aktív pedagógus és pap közül két nevet kiemelnék, akik Rábagyarmat neves emberei lettek:
Ács László, magyar és történelem szakos tanár, helytörténész, néprajzi- és irodalomtörténeti kutató.
Zalaszentivánon született 1935-ben. 1954-ben került Rábagyarmatra. 1955-től vezette a helyi színjátszó csoportot. Mintegy félszáz tanulmánya jelent meg a falu életéről és Kocsi László költőről. Létrehozta 1970-ben a falu néprajzi gyűjteményét. Fő munkája: Falunk képeskönyve, amely 1977-ben jelent meg. Álmok után címmel portréfilm készült róla
.Kocsis László 1891-ben Szőcén született. Katolikus teológiát végzett. Pap és költő.
Újdombováron volt plébános, később pécsi kanonok lett. Legjobb verseiben Rábagyarmatot örökítette meg, annyira meghatározóan, hogy 1963-ban a Magyar Irodalmi Lexikon rábagyarmati születésűnek írta.
Helyi látványosságok: Szent Lambert templom
Szent László forrás
Rábel-kápolna