Pour ce tableau, considéré dès sa présentation comme un chef-d'œuvre de la peinture orientaliste, Belly choisit de traduire sur une toile d'un format particulièrement imposant un sujet ambitieux. Il s'agit de l'avancée d'une longue caravane dans le désert, se dirigeant vers La Mecque, la ville la plus sainte de l'Islam et lieu de pèlerinage des musulmans.

Au Salon de 1861, Belly obtient pour ses Pèlerins une médaille de première classe, la récompense la plus élevée. Le public est particulièrement sensible à l'effet audacieux produit par le long cortège qui s'avance vers le spectateur. Un critique affirme d'ailleurs qu'au "retour du Salon, il semblait que chaque visiteur eut fait partie de la caravane". Des voix discordantes se font néanmoins entendre. Ainsi, dans la Gazette des beaux-arts, un observateur reproche à Belly de n'avoir pas respecté certaines conventions : “Les Pèlerins allant à La Mecque présentent un groupe trop compact peut-être et la proportion des chameaux est exagérée relativement à la figure humaine.”

De manière très discrète, l'artiste donne une portée œcuménique à son œuvre. Sur la gauche de la composition, il représente un groupe de trois personnages : un homme à pied accompagnant une femme avec son enfant sur un âne. Il s'agit d'un rappel frappant du motif, si courant dans la peinture, de la "fuite en Égypte" de Marie, Joseph et Jésus. Par cette association, Belly montre son attachement à l'idée qu'au-delà des divisions, il existe une religion universelle, une foi en un Dieu unique.