Il Club Gimnàstic de Tarragona fu fondato il 1º marzo 1886 da un gruppo di quindici soci che si incontrarono presso il Cafè del Centre lungo la Rambla Nova. La maggior parte dei primi soci del club appartenevano alla classe medio-alta e, come suggerisce il nome, inizialmente la società nacque con l'intento di promuovere la ginnastica. Qualche tempo dopo il club iniziò a promuovere anche il pugilato e il ciclismo. Nel 1914 il club incorporò una locale squadra di calcio, il Club Olímpic de Tarragona, e istituì la sua prima sezione calcistica, che prese il nome di Olímpic, da cui ereditò anche i colori sociali: rosso, bianco e nero. Disputava i match interni nello Stadio Avenida Catalunya.
Nel gennaio 1918 il Gimnàstic fece il suo debutto nel Championat de Catalunya e nel 1927 vinse il campionato di seconda divisione. Nel 1943-1944 esordì nella Tercera División e, di lì a poco, fece il salto in Segunda División.
Nel 1946-1947 il Nàstic fu secondo in seconda divisione e riuscì a ottenere la promozione nella Liga. Nel 1947 fu semifinalista in Copa del Generalísimo dopo aver battuto ai quarti il Barcellona (vittoria per 2-0 in trasferta e sconfitta per 3-2 in casa). Fu eliminata dall'Espanyol.
Il club militò in Primera División per tre anni, dal 1947 al 1950. Nella prima annata in Primera batté il Real Madrid per 3-1 al Bernabéu, l'11 gennaio 1948, prima squadra capace di espugnare il glorioso stadio. Nel 1950 retrocesse in seconda serie dopo aver perso lo spareggio contro l'Alcoyano.
Nel 1972 si trasferì al Nou Estadi.
Dopo 56 anni il Gimnàstic dell'allenatore Luis César Sampedro e di giocatori quali Antonio Pinilla e Albano Bizzarri tornò a giocare nella massima serie del campionato spagnolo nella stagione 2006-2007. La promozione matematica fu raggiunta il 3 giugno 2006 grazie allo 0-0 ottenuto sul campo dello Xerez. Esordì in massima serie con una vittoria per 0-1 sul campo dell'Espanyol, ma, ultima classificata, retrocesse con alcune giornate di anticipo. A nulla valse l'avvicendamento in panchina, con l'arrivo del tecnico Paco Flores, sotto la cui gestione il miglioramento ci fu, ma non fu tale da determinare la salvezza.
Nel 2007 il club vinse la Copa Catalunya battendo per 2-1 il Barcellona.
Dopo due piazzamenti a metà classifica con l'allenatore César Ferrando nel 2008 e nel 2009, nel 2009-2010 e nel 2010-2011 il club evitò per un punto la retrocessione in terza serie, che giunse nel 2012, dopo un campionato segnato da sole 6 vittorie in 42 giornate.
Il 12 settembre 2012 il Nàstic si aggiudicò la seconda Copa Catalunya della propria storia, sconfiggendo in finale il Manlleu.
Tornato in Segunda División al termine della stagione 2014-2015 dopo aver superato ai play-off l'Huesca, il club si piazzò terzo nel 2015-2016, ma fu eliminato già in semifinale dall'Osasuna (sesto sul campo) nei play-off per la promozione in Primera. Al termine della stagione 2018-2019 il club è nuovamente retrocesso in terza serie.