Музыкальная карьера Алперта началась во второй половине 1950-х, когда он писал шлягеры для эстрадных исполнителей (в том числе такие значительные, как «Wonderful World» Сэма Кука). Вскоре он увлёкся медными духовыми инструментами и создал оркестр The Tijuana Brass, все музыканты которого играли на таковых. Вместе они записали несколько очень успешных дисков инструментальной музыки направления лаунж — например, «Whipped Cream & Other Delights» и «Going Places» (оба — 1965).
В 1968 г. написанная Бёртом Бакарахом композиция «This Guy’s in Love with You», в которой Алперт не только играл на трубе, но и пел, вышла на первое место в Billboard Hot 100. Вдохновлённый этим успехом, Алперт распускает Tijuana Brass и начинает сольную карьеру, кульминацией которой стал бестселлер «Rise» (1979), много лет спустя просэмплированный рэпером Notorious B.I.G. в выпущенном посмертно суперхите «Hypnotize» (1997).
Свободное от музыки время Херб Алперт посвящает своему хобби — абстрактной живописи и скульптуре. Он также является основателем и совладельцем лейбла A&M Records, который открыл немало суперзвёзд американской поп-музыки — от дуэта The Carpenters до Джанет Джексон.
