Seine Musikkarriere florierte durch seinen Cousin Jerry Lee Lewis, den Rock’n’Roll-Sänger. Mickey Gilley hielt sich selbst nicht für einen professionellen Sänger, bis sein Cousin Lewis in den 1950er Jahren einen großen Hit hatte. Gilley begann daraufhin, ein paar Songs aufzunehmen, und einer seiner Songs “Call Me Shortly” wurde ein großer Erfolg. Im Jahr 1960 trat Gilley in vielen Clubs und Bars auf. Er war in Texas sehr beliebt. Dann veröffentlichte er sein Debütalbum bei Paula Records. Das Album hieß “Down the Line”, aber er hatte nur einen kleinen Hit mit dem Titel “Now I can Live Again”.
Im Jahr 1970 eröffnete er seinen ersten Club in Pasadena in Texas. Er wurde Gilley’s Club genannt. Der Club wurde jedoch später abgerissen und an seiner Stelle wurde eine Schule gebaut. Im Jahr 1974 wurde Gilley bei Playboy Records unter Vertrag genommen. Sein erster Hit, “House of Roses”, verschaffte ihm nationale Anerkennung und ist bis heute einer seiner bekanntesten Songs. Im Laufe des Jahres 1970 veröffentlichte er eine Vielzahl von Hits. Ende 1970 ließ seine Popularität jedoch nach.