Le vieux musicien n'est pas absorbé dans son activité. Au contraire, il nous regarde avec une insistance qui rappelle la jeune effrontée du Déjeuner sur l'herbe. Les autres personnages ne semblent pas non plus particulièrement intéressés par le musicien. Ils sont dénués d'expression, sans présence psychologique particulière, alignés en face de nous, comme pour s'offrir à nos regards. Bien que chacun des personnages touche ses voisins, le tableau est dénué de cohérence narrative ou dramatique. L'homme barbu sur la droite, coupé par le cadre (que Manet a ajouté tardivement, en fin d'exécution), est élidé. Manet ne recherche pas un effet d'ensemble, mais attire l'attention sur l'homme qui nous dévisage. Le critique Alexandre Astruc (ami proche de Manet dont il a fait le portrait en 1866) aimait les portraits vivants, intenses, qui confrontent directement le personnage avec le spectateur. Cet effet complexe de tableau-portrait est particulièrement aigu dans le cas du Vieux musicien.

Entre cette oeuvre et un tableau apparemment plus classique comme La Vocation de saint François, d'Alphonse Legros (1861), il y a un point commun essentiel : l'instantanéité. Dans les deux cas, une particularité du tableau attire le spectateur dans son présent.