Hljómsveitin byrjaði í ársbyrjun árið 1994. Gítarleikarinn Richard Kruspe var frumkvöðull í stofnun hljómsveitarinnar. Fyrst fékk hann Christoph Schneider og Oliver Riedel til liðs við sig, svo bættust Paul Landers og Flake Lorenz við og að lokum fullkomnaði Till Lindemann hópinn.
Í maí sama ár gerðu þeir samning við umboðsmanninn Emanuel Fialik.
Í ársbyrjun 1995 gerðu þeir plötusamning við Motor Music/Polygram.
Þann 17. ágúst árið 1995 gáfu þeir út fyrstu smáskífu sína “Du riechst so gut”.
Í mars 1995 var platan “Herzeleid” framleidd í Polar hljóðverinu i Stokkhólmi í samstarfi við sænska framleiðandann Jacob Hellner. Þann 24. september sama ár kom “Herzeleid” á markað. Sama dag hófu þeir samstarf meðtónleika umboðsmanninum Henry von Fichtel. Það sem eftir var ársins voru þeir á tónleikaferð í Þýskalandi, Tékklandi og Póllandi.
Önnur smáskífa sveitarinnar, “Seemann” kom út 2. janúar 1996.
Í janúar, febrúar og mars 1996 voru Rammstein á tónleikaferðum í Austurríki, Sviss og Þýskalandi.
27. mars árið 1996 komu þeir fram í beinni útsendingu frá London í MTV sjónvarpsþættinum “Hanging Out”.
29. maí til 18. ágúst 1996 voru þeir á tónleikum víðsvegar um Evrópu. Þeir spiluðu á ýmsum hátíðum.
Tvö lög hljómsveitarinnar voru valin til notkunar í myndinni “Lost highway” sem byrjað var að sýna haustið 1996 í Bandaríkjunum en í apríl í Evrópu. Lögin tvö voru “Heirate mich” og “Rammstein”.
Í nóvember sama ár var önnur plata þeirra “Sehnsucht” framleidd í Temple hljóðverinu á Möltu. Aftur í samstarfi við Jacob Hellner.
Þann 1. apríl 1997 kom smáskífan “Engel” út og þann 23. maí fengu þeir gullplötu fyrir hana.
12. júní til 13. júlí voru þeir á tónleikaferð um Evrópu.
Önnur smáskífan af “Sehnsucht”, “Du hast”, var gefin út 21. júlí.
Þann 22. júlí kom “Sehnsucht” út. Hún var gefin út með sex mismunandi plötuumslögum (covers), ein fyrir hvern meðlim.
Svörtu myndirnar á þessari síðu eru þær myndir sem Rammstein notaði á hulstrin fyrir geisladiskinn “Sehnsucht”.
Myndirnar eru af hverjum og einum meðlimi hljómsveitarinnar og er hægt að kaupa diskinn með sínum uppáhalds meðlimi framan á hulstrinu.
Í bækling disksins eru samt allar myndirnar sex, það er bara mismunandi hvar þær eru.
Þeir fengu gullplötu fyrir “Herzeleid” 4. ágúst 1997. Hún og “Engel” hafa síðan þá verið seldar í 450.000 eintökum.
Þeir voru á tónleikaferðum víðsvegar um Evrópu í nóvember.
Þann 21. nóvember 1997 gáfu þeir út “Das Modell” sem er lag eftir Kraftwerk.
Það sem eftir var af 1997 voru þeir á tónleikaferð um Ameríku.
Þann 5. mars 1998 hlutu Rammstein “Echo” verðlaunin (stærstu þýsku tónlistarverðlaunin) fyrir besta myndbandið við lagið “Engel”.
Frá 26. apríl til 18. júlí 1998 voru Rammstein meira og minna að spila á tónleikum og ýmis konar hátíðum í Bandaríkjunum og Evrópu.
Þann 19. júní 1998 kom út safndiskurinn “Original Single Kollektion” með öllum helstu smáskífulögum Rammstein.
27. júlí 1998 kom út smáskífa með þeirra útgáfu af gamla Depeche Mode laginu “Stripped”.
14. ágúst 1998 hlutu Rammstein Viva-Comet verðlaunin fyrir flokkinn: Besta hljómsveitin í beinni útsendingu (Best Live Band)
Þann 24. ágúst 1998 hlutu Rammstein “Double Platinum” og gullplötu fyrir plöturnar “Herzeleid” og “Sehnsucht” sem höfðu þá selst í 1 000 000 eintökum í Þýskalandi.
Dagana 22. september til 31. október 1998 voru haldnir svokallaðir “Family Values Tour” í Bandaríkjunum þar sem fram komu Rammstein, Korn, Ice Cube, Orgy og Limp Bizkit.
Þann 12. nóvember 1998 voru Rammstein tilnefndir til evrópsku MTV tónlistarverðlaunanna í flokknum: Besta rokk atriði (Best Rock act).
Í febrúar árið 1999 voru Rammstein svo tilnefndir til hinna 42. árlegu Grammy verðlauna í flokknum: Besta þungarokks framkoman (Best Metal Performance).
Þann 4. mars 1999 hlutu Rammstein aftur þýsku “Echo” verðlaunin, en í þetta sinn fyrir að vera vinsælustu þýsku flytjendurnir utanlands.
Í apríl og júní sama ár voru þeir í tónleikaferðum um Ameríku.
Þann 20. ágúst 1999 veittu Till og Paul hljómsveitinni Offspring Viva-Comet verðlaunin.
Þann 30. ágúst 1999 var diskurinn “Rammstein - Live aus Berlin” gefinn út. Þessi diskur er beint frá tónleikum hljómsveitarinnar í Berlín.

5. janúar 2000 hófust upptökur á nýjum geisladiski.
Hann var svo gefinn út 3. apríl 2001 og heitir “Mutter”.