Fondato nel 1967 a San Francisco da Jann Simon Wenner (tuttora editore) e dal critico musicale Ralph J. Gleason, Rolling Stone venne inizialmente identificato con la scena hippie, per poi prendere le distanze dal mondo delle riviste underground e dall'orientamento politico radicale delle stesse, abbracciando anche canoni giornalistici più tradizionali. Ma la politica rimase un elemento fondamentale della rivista, che ne fece il suo marchio nei primi anni settanta grazie al gonzo journalism di Hunter S. Thompson.

La rivista, che lanciò Cameron Crowe e tanti altri, divenne tanto influente che i Dr. Hook & The Medicine Show intitolarono una loro canzone (scritta da Shel Silverstein) Cover of the Rolling Stone("La copertina del Rolling Stone").

Negli anni ottanta, pur continuando a ospitare giornalisti e scrittori che erano diventati ormai icone, come lo stesso Thompson, Rolling Stone assunse alcune caratteristiche che aveva precedentemente evitato. Si spostò a New York nel 1976, e molti considerano questa data l'inizio del cambiamento della rivista. Molti collaboratori andarono via e molti altri firmarono, e le copertine si orientarono sempre di più alle star del cinema. Tra il 1980 e il 1982 una sorta di spin-off fu edito dalla sorella di Jann Wenner, Kate. Secondo il libro Rolling Stone Magazine di Robert Draper, fu a metà degli anni ottanta che Rolling Stone smise di lanciare le mode musicali per cominciare a seguirle.

Alla fine degli anni novanta la rivista pubblicò una foto della nascente popstar Britney Spears, che fece molto scalpore anche perché mostrò chiaramente che la diciassettenne aveva subito un'operazione di "gonfiamento" chirurgico.