Epstein był członkiem grupy Tom Petty & The Heartbreakers między 1982 a 2002 rokiem . Od kilku lat miał problemy z narkotykami, za co w końcu wyleciał z zespołu. Współpracował także z Bobem Dylanem, Stevie Nicks, Jeffem Lynnem i Johnnym Cashem. Córka tego ostatniego, Carlene Carter, była dziewczyną muzyka. W 2001 roku oboje zostali aresztowani, gdy złapano ich w ukradzionym samochodzie z trzema gramami heroiny.
Tom Petty ze swoim zespołem wydali oświadczenie, w którym czytamy m.in.: „Jesteśmy pogrążeni w głębokim smutku, po otrzymaniu wiadomości o odejściu Howiego. Nie znajdujemy słów, by wyrazić, jak bardzo go kochaliśmy i jak bardzo będzie nam go brakować. Świat utracił utalentowanego muzyka i łagodną duszę. Nasze myśli i modlitwy są teraz przy jego rodzinie i przyjaciołach”.