Ο Σέρμαν έκανε αρκετούς δίσκους με την Decca και μια άλλη μικρότερη δισκογραφική εταιρεία και εμφανίστηκε σε εφηβικά περιοδικά. Στις αρχές του 1968, επιλέχθηκε για τον ρόλο του Τζέρεμι Μπολτ, ενός ντροπαλού, τραυλίζοντος ξυλοκόπου, στην τηλεοπτική σειρά του ABC Here Come the Brides (1968–1970). Από το 1970, ο Σέρμαν είχε λάβει περισσότερα μηνύματα θαυμαστών από οποιονδήποτε άλλο καλλιτέχνη στο δίκτυο ABC-TV.
Ο Σέρμαν εμφανίστηκε σε ένα επεισόδιο του Honey West με τίτλο "The Princess and the Paupers" ως μέλος ενός συγκροτήματος που είχε απαχθεί. Εμφανίστηκε επίσης στους Monkees στο επεισόδιο "Monkees at the Movies", υποδυόμενος μια αλαζονική τραγουδίστρια-σέρφερ ονόματι Φράνκι Καταλίνα (στο μοντέλο του Φράνκι Άβαλον) και ερμηνεύοντας το τραγούδι "The New Girl in School" (η ανατροπή του "Dead Man's Curve" των Τζαν και Ντιν).
Ο Σέρμαν κυκλοφόρησε 107 τραγούδια, 23 singles και 10 άλμπουμ μεταξύ 1962 και 1976. Επτά από τα τραγούδια του έγιναν επιτυχίες στο top 40. Κέρδισε επτά χρυσά singles, ένα πλατινένιο single και πέντε χρυσά άλμπουμ. Το 1969, υπέγραψε με την Metromedia Records και κυκλοφόρησε το single "Little Woman", το οποίο έφτασε στο Νο. 3 του Billboard Hot 100 chart (Νο. 2 στον Καναδά) και παρέμεινε εννέα εβδομάδες στο Top 20. Πούλησε πάνω από ένα εκατομμύριο αντίτυπα και βραβεύτηκε με χρυσό δίσκο από την R.I.A.A. τον Οκτώβριο του 1969.
Οι άλλες επιτυχίες του ήταν τα "Julie, Do Ya Love Me" (γραμμένα από τον Tom Bahler), "Easy Come, Easy Go", "Jennifer", "La La La (If I Had You)" και "The Drum" (γραμμένα από τον Alan O'Day). δι ανταγωνίστηκε εκεί για θέση στα charts με την διασκευή των White Plains, η οποία κατέλαβε το #8.
