Αρχικά προοριζόταν να είναι απλώς άλλο ένα τραγούδι κατά παραγγελία. Ο Simon και ο Garfunkel είχαν επιβιώσει από την παρακμή της folk μουσικής στη Νέα Υόρκη και κατάφεραν να βγουν άθικτοι από την άλλη πλευρά. Αφού ο σκηνοθέτης Mike Nichols τους προσέγγισε αυτοπροσώπως, το δίδυμο συμφώνησε να γράψει μερικά τραγούδια για την ταινία, «The Graduate». Ο Nichols δεν χρειαζόταν τραγούδια που να σχετίζονται απαραίτητα με την πλοκή της ταινίας. Είχε απλώς εμμονή με τη μουσική του Paul Simon και του Art Garfunkel, επιμένοντας να προσθέσουν τις folk μελωδίες τους στην ταινία.
Σχεδόν όλο το υλικό που το ντουέτο προσέφερε στο soundtrack του «The Graduate» είχε ήδη ηχογραφηθεί και κυκλοφορήσει. Το κλασσικό «The Sound of Silence» ήταν η επιτυχία που μετέτρεψε το δίδυμο σε σούπερ σταρς, εμφανιζόμενο στα άλμπουμ «Wednesday Morning, 3 A.M.» και «Sounds of Silence». Τα κομμάτια «Scarborough Fair/Canticle» και «The Big Bright Green Pleasure Machine» συμπεριλήφθηκαν αρχικά στο προηγούμενο άλμπουμ του ντουέτου, «Parsley, Sage, Rosemary Αand Thyme».
Ο Simon και ο Garfunkel είχαν ήδη ξεκινήσει τις προετοιμασίες για το τέταρτο στούντιο άλμπουμ «Bookends». Ο Simon κατέβαζε συνεχώς ιδέες για τραγούδια, αλλά η δέσμευσή του στο «The Graduate» ήταν ακόμα στο πίσω μέρος του μυαλού του. Ο Simon είχε συμφωνήσει να γράψει τουλάχιστον ένα νέο τραγούδι για την ταινία και αφού συγκέντρωσε μερικές συγχορδίες γύρω από τον βασικό ρυθμό, είχε το βασικό πλαίσιο για το νέο κομμάτι.
«Ο Paul εργαζόταν πάνω σε αυτό που τώρα είναι το Mrs. Robinson, αλλά δεν είχε καταλήξει σε κάποιο τίτλο και απλώς βάζαμε οποιοδήποτε τρισύλλαβο όνομα προσωρινά», αφηγείται ο Garfunkel στο βιβλίο «Paul Simon: A Life». «Και λόγω του χαρακτήρα στην ταινία, είχαμε αρχίσει να χρησιμοποιούμε το όνομα Mrs. Robinson. Και μια μέρα καθόμασταν με τον Mike και συζητούσαμε για ιδέες για ένα άλλο τραγούδι. Και είπα: Τι γίνεται με την κυρία Robinson. Ο Mike πετάχτηκε όρθιος. Έχετε ένα τραγούδι που ονομάζεται Mrs. Robinson και δεν μου το έδειξες ακόμα; Εξηγήσαμε λοιπόν ότι ήταν προσωρινός τίτλος και του το τραγουδήσαμε. Και μετά ο Mike το καθιέρωσε για την ταινία ως Mrs. Robinson».
Αυτή η ιστορία υπογραμμίζει ένα βασικό σημείο: ο Simon δεν είχε αρχικά οραματιστεί το τραγούδι σαν να ήταν για την μεσήλικη πρωταγωνίστρια που κοιμάται με τον νεαρό Benjamin Braddock του Dustin Hoffman. Αντίθετα, ο χαρακτήρας του κομματιού βασιζόταν στην Mrs. Roosevelt, πιθανότατα παρμένο από την Elanor Roosevelt. Η πρώην πρώτη κυρία θα ταίριαζε με τους στίχους του Simon που περιγράφουν λεπτομερώς τις αντιθέσεις μεταξύ παλαιότερων και νεότερων γενιών, αλλά όταν ο Nichols το ανέλαβε, επέμεινε να γίνει «Mrs. Robinson».
Δείτε τον Paul Simon που μιλάει για την προέλευση του κομματιού «Mrs. Robinson» παρακάτω: