Zespół powstał w 1974 roku w składzie Joey Ramone (Jeffrey Hyman), Johnny Ramone (John Cummings) i Dee Dee Ramone (Douglas Colvin). Ich managerem został Tommy Ramone (Tom Erdelyi). Oprócz nazwiska, wspólną cechą muzyków był strój - podarte niebieskie jeansy i skórzane kurtki.
Pierwszy koncert zespołu odbył się 30 marca 1974 przed publicznością w Manhattan's Performance Studios. Następnie Tommy postanowił dołączyć do składu jako "pełnoprawny członek" i został perkusistą grupy. Formacja bardzo szybko dostała pozwolenie na występy w legendarnym klubie CBGB's, gdzie grała regularnie przez następny rok. Później podpisali kontrakt z wytwórnią Sire, stając się pierwszym punkowym zespołem Nowego Jorku, któremu się to udało.
Rok 1976 to debiutancki album formacji zatytułowany po prostu "Ramones". Nie był to wprawdzie ogromny sukces, ale płyta dostała się na zestawienie w Stanach Zjednoczonych. Lepiej było w Wielkiej Brytanii, gdzie The Ramones stali się inspiracją dla wielu nowo powstających grup. Reszta roku upłynęła muzykom na koncertowaniu i nagrywaniu kolejnej płyty - "Ramones Leave Home". Podobnie jak poprzednik, album znów wylądował zbyt nisko na zestawieniu w USA, żeby mówić o przełomie, ale stał się wielkim przebojem na Wyspach. W 1977 roku The Ramones i Sex Pistols, uważani byli za dwa najważniejsze zespoły punk rockowej rewolucji. Jesienią tego samego roku grupa wydała swój trzeci album - "Rocket to Russia". Wydawnictwo promował utwór "Sheena Is a Punk Rocker". W tym samym czasie zespół opuścił Tommy Ramone, którego zastąpił Voidoid Marc Bee, przybierając nazwisko Marky Ramone. W tym składzie muzycy nagrali kolejny album, zatytułowany "Road to Ruin". To właśnie on pokazał, że zespół stara się zmienić swoje brzmienie, co jednak nie wpłynęło na wzrost sprzedaży. Podobnie było z filmem "Rock N' Roll High School" Rogera Cormana, w którym zagrali. Ścieżka dźwiękowa do tej produkcji ukazała się na koncertowej płycie "It's Alive" wydanej jedynie w Wielkiej Brytanii w 1979 roku.
Kolejne miesiące zespół spędził na przygotowywaniu nowego materiału. Nad jego produkcją czuwał znany producent Phil Spector. Pierwszym nagraniem była tytułowa piosenka do filmu "Corman". Album nosił tytuł "End of the Century" i ukazał się w 1980 roku. Na płycie znajdował się także przebój "Baby I Love You" - cover piosenki zespołu The Ronettes.
Rok później można było posłuchać szóstego już albumu The Ramones zatytułowanego "Pleasant Dreams". Płyta okazała się jednak komercyjną porażką. Próbując nadrobić straty, zespół wyruszył w trasę koncertową.
The Ramones powrócili w 1983 z płytą "Subterranean Jungle", jednak i tym razem nie udało im się wybić. Był to jeden z powodów, dla których Marky opuścił zespół. Na jego miejsce przyszedł Richie Ramone (Richard Beau).
Dopiero dzięki wydawnictwu "Too Tough To Die" zespół powrócił do łask. Pomógł w tym szczególnie singiel "Bonzo Goes to Bitburg". Mimo zdecydowanie przychylniejszych opinii po wydaniu tego krążka, zespół postawił na bardziej "przyziemne" brzmienie i tak powstał kolejny album - "Aminal Boy" wydany w 1986 roku. W tym stylu The Ramones tworzyli przez następne 10 lat.
Rok 1987 to płyta "Halfway to Sanity". Po jej wydaniu z zespołu odszedł Richie, a Marky Ramone powrócił do składu. Rok później została wydana "Ramones Mania". Wtedy też Dee Dee został zastąpiony przez C.J. Ramone.
Zespół powrócił dopiero w 1992 roku, ale za to z dwoma krążkami - "Loco Live" i "Mondo Bizarro". Niestety ani one, ani kolejny "Acid Eaters" nie osiągnęły zamierzonego celu.
Po tym, jak amerykańska scena rockowa została zawładnięta przez młode zespoły, jak Green Day czy Offspring, The Ramones wydali "Adios Amigos" i rozpoczęli pożegnalną trasę koncertową, która trwała aż do 1995 roku. Zespół zagrał jeszcze na festiwalu Lollapalooza w 1996 roku, po czym się rozpadł. W roku 2001 zmarł Joey Ramone, rok później odszedł Dee Dee, a w roku 2004 - Johnny Ramone.
The Ramones byli i są wciąż inspiracją dla wielu współczesnych zespołów. Jednym z nich jest grupa Red Hot Chili Peppers, która w 2004 roku oddała hołd muzykom, podczas specjalnego koncertu:
