Γεννήθηκε 8 Δεκεμβρίου 1925, βοήθησε να καθιερωθεί η χρήση του οργάνου στην μουσική στην δεκαετία του '60
Αγόρασε το πρώτο του όργανο Hammond, νοίκιασε μια αποθήκη για να εξασκηθεί και εμφανίστηκε μετά από λίγο περισσότερο από ένα χρόνο. Μόλις τον άκουσε να παίζει σε ένα κλαμπ της Φιλαδέλφειας, ο Alfred Lion των Blue Note τον υπέγραψε αμέσως στην εταιρεία και το δεύτερο άλμπουμ του, The Champ , γρήγορα καθιέρωσε τον Smith ως νέο αστέρι στη σκηνή της τζαζ.
Ήταν ένας παραγωγικός καλλιτέχνης ηχογράφησης και, ως ηγέτης, με το όνομα The Incredible Jimmy Smith, ηχογράφησε περίπου σαράντα συνεδρίες για το Blue Note σε μόλις οκτώ χρόνια ξεκινώντας το 1956. Τα άλμπουμ αυτής της περιόδου περιλαμβάνουν το The Sermon! , House Party , Home Cookin' , Midnight Special , Back at the Chicken Shack καιΣυνάντηση Προσευχής .
Ο Smith υπέγραψε στην εταιρεία Verve το 1962. Το πρώτο του άλμπουμ, Bashin' , πούλησε καλά και για πρώτη φορά ο Smith συνεργάστηκε με μια μεγάλη μπάντα, με επικεφαλής τον Oliver Nelson . Ακολούθησαν περαιτέρω συνεργασίες μεγάλων συγκροτημάτων με τον συνθέτη/ενορχηστρωτή Lalo Schifrin για το The Cat και τον κιθαρίστα Wes Montgomery , με τον οποίο ηχογράφησε δύο άλμπουμ: The Dynamic Duo και Further Adventures of Jimmy and Wes .
Άλλα άλμπουμ αυτής της περιόδου περιλαμβάνουν το Blue Bash! και Organ Grinder Swing με τον Kenny Burrell , The Boss με τον George Benson, Ποιος φοβάται τη Βιρτζίνια Γουλφ; , Got My Mojo Working και Hoochie Coochie Man .
Κατά τη διάρκεια των δεκαετιών του 1950 και του 1960, ο Smith έπαιζε σχεδόν πάντα ζωντανά, σε ένα τρίο, αποτελούμενο από όργανο, κιθάρα και ντραμς. Το Jimmy Smith Trio ερμήνευσε το " When Johnny Comes Marching Home " και " The Sermon " στην ταινία Get Yourself a College Girl (1964).
Στη δεκαετία του 1970, ο Smith άνοιξε το δικό του σούπερ κλαμπ στη γειτονιά του Βόρειου Χόλιγουντ του Λος Άντζελες , στην Καλιφόρνια , στο 12910 Victory Boulevard και έπαιζε εκεί τακτικά με τον Kenny Dixon στα ντραμς, τον Herman Riley και τον John F. Phillips στο σαξόφωνο. Στο συγκρότημα συμπεριλήφθηκε επίσης ο φυσαρμόνικας/φλάουτο Stanley Behrens. Το άλμπουμ του 1972 Root Down , που θεωρείται θεμελιώδης επιρροή στις μεταγενέστερες γενιές μουσικών της funk και της hip-hop, ηχογραφήθηκε ζωντανά στο κλαμπ, αν και με διαφορετική ομάδα μουσικών.
