In Buenos Aires, Argentinien, geboren, begann José Gallardo mit fünf Jahren mit dem Klavierunterricht. Nach der Ausbildung am Konservatorium in Buenos Aires setzte er sein Studium bei Prof. Poldi Mildner am Fachbereich Musik der Universität Mainz fort und erhielt 1997 sein Diplom. Während dieser Zeit entdeckte er seine Vorliebe für Kammermusik. Musikalische Anregungen verdankt er Künstlern wie Menahem Pressler, Alfonso Montecino, Karl-Heinz Kämmerling, Eberhard Feltz, Sergiu Celibidache, Rosalyn Tureck und Bernard Greenhouse.

José Gallardo hat zahlreiche nationale und internationale Preise errungen. Einladungen zu zahlreichen Tourneen und Festivals folgten, etwa zum Kammermusikfestival Lockenhaus, zum Verbier Festival, Lucerne Festival, den Ludwigsburger Schlossfestspielen, den Schwetzinger Festspielen, Schleswig Holstein, Musiktage Hitzacker, Kaposfest Ungarn, zum Cello Festival Kronberg und zum Chopin Festival in Warschau.

Eine rege Konzerttätigkeit und kammermusikalische Zusammenarbeit in Europa, Asien, Israel, Ozeanien und Südamerika verbindet José Gallardo mit Vilde Frang, Barnabás Kelemen, Gidon Kremer, Linus Roth, Benjamin Schmid, Nils Mönkemeyer, Tomoko Akasaka, Andreas Ottensamer, Nicolas Altstaedt, Julius Berger, Maximilian Hornung, Benedict Klöckner, Miklós Perényi, u.a.

Aufnahmen bei Warner, Deutsche Grammophone, Challenge Records Int., Genuin, NEON, Oehms Classics und Naxos sowie Fernsehen und Rundfunkproduktionen bei BR, SWR, MDR, BBC, RAI u.a.

Von 1998 bis 2008 war er Dozent am Fachbereich Musik der Universität Mainz, seit Herbst 2008 lehrt er am Leopold Mozart Zentrum der Universität Augsburg. Seit 2013 ist er, zusammen mit Andreas Ottensamer, künstlerischer Leiter des Kammermusikfestivals Bürgenstock Festivals in Luzern.