Η τραγουδίστρια Sally Carr που έγινε 79 ετών, ο ντράμερ Ken Andrew, ο κιθαρίστας Ian McCredie και ο μπασίστας αδελφός του Eric McCredie, ίδρυσαν το συγκρότημα την 1η Απριλίου 1970 στη Γλασκώβη της Σκωτίας. Είχαν ήδη παίξει μαζί με το όνομα Part Four από το 1967 και αργότερα σε λατινοαμερικάνικο στυλ με το όνομα Las Caracas. Με το όνομα Las Caracas κέρδισαν το τηλεοπτικό σόου ταλέντων του Ηνωμένου Βασιλείου Opportunity Knocks. Μετακόμισαν στην Ιταλία το 1970 επειδή δεν είχαν βρει επιτυχία στο Ηνωμένο Βασίλειο. Εκεί συνάντησαν τον Ιταλό μουσικό παραγωγό Τζάκομο Τόστι, ο οποίος έδωσε στο συγκρότημα τον χαρακτηριστικό ήχο και τους χάρισε την επιτυχία.
Το συγκρότημα είχε την πρώτη και μεγαλύτερη επιτυχία του δίσκου στο Ηνωμένο Βασίλειο με το ντεμπούτο τους στο Ηνωμένο Βασίλειο, "Chirpy Chirpy Cheep Cheep". Το τραγούδι έφτασε στο Νο. 1 στο UK Singles Chart τον Ιούνιο του 1971 και έμεινε εκεί για άλλες τέσσερις εβδομάδες. Συνολικά, οι Middle of the Road είχαν πέντε επιτυχημένα σινγκλ στο Ηνωμένο Βασίλειο το 1971 και το 1972. Το συγκρότημα είχε ιδιαίτερα μεγάλη επιτυχία στη Γερμανία, όπου πέτυχε έντεκα επιτυχίες στα Top 40 μεταξύ 1971 και 1974. . Το «Chirpy Chirpy Cheep Cheep» και το «Sacramento» παίχτηκαν πολύ στο σκανδιναβικό ραδιόφωνο. Στο ολλανδικό Daverende 30 το γκρουπ είχε τέσσερις νούμερο 1 επιτυχίες μεταξύ 1971 και 1973.
Μεγάλη επιτυχία είχαν και στην Ελλάδα.
