Dans cette suite de courts récits d’Apollinaire, publiés en 1910, à l'intrigue serrée, se mêlent les influences d' Hoffmann, de Nerval, de Barbey d'Aurevilly, surtout de Villiers de l'Isle-Adam et de Poe: cauchemars, récits fantastiques, apparitions où se pressent des ivrognes luxurieux, des assassins sanctifiés, des prêtres hérétiques, des saints bien hétérodoxes, des alchimistes, des bourgeois et des sénateurs.
Et partout le truculent, l' extraordinaire, la féerie ou la diablerie: des "philtres des phantasme", dit Apollinaire. A la fin du XIXe siècle, un théologien qui fonde une hérésie: tel est le personnage du conte de "l' Hérésiarque". Le Pape l'exorcise, mais le théologien persiste et il est excommunié. C'est à peu près tout le récit, sur quoi Apollinaire greffe des réflexions sur l' infaillibilité pontificale: notre religieux, avant son hérésie, était fort estimé. Il eût pu devenir évêque, cardinal, qui sait? peut-être pape. Alors il se serait servi de l' infaillibilité pour imposer l'hérésie et l' hérésie serait devenue dogme.
Même sujet dans le conte: "L' infaillibilité": mais l'abbé Delhonneau, le héros, qui est convaincu que les dogmes ne sont qu'inventions humaines et veut forcer le Pape à proclamer l'erreur du Catholicisme, n'a pas une forte tête: on l'apaisera en le nommant évêque.
Victime de sa charité franciscaine est le brave religieux du "Sacrilège": effaré par l' impiété de l'époque, il sort une nuit de son couvent, passe devant tous les soupiraux des boulangers, récite devant chacun les paroles de consécration et pense avoir bien battu le Démon: demain en effet, toute la ville, des millions d'hommes vont manger le Pain divin, tout le monde sera saint, et commencera alors le royaume de Dieu. Mais le malheureux a oublié que tous les hommes sont en état de péché mortel et, sans le vouloir, il va faire profaner universellement l' Eucharistie.
"Le juif latin" prétend s'attaquer au problème même du salut: ce juif avignonnais a tué bien plus que père et mère. C'est un maniaque du crime. Mais aussi connaît-il la parabole des ouvriers de la onzième heure: après avoir commis son dernier crime, il se suicide avec un poison lent et demande le baptême. Voilà tous ses péchés lavés. Miracle! Son cadavre ne pourrit pas et le larron est béatifié... pour avoir su ruser avec le Bon Dieu.
Le "Passant de Prague" s'inspire de la vieille légende du Juif errant qu'Apollinaire modifie à sa manière: son Juif errant est un vieillard goguenard, jouisseur, paillard, doué d'une immortelle jeunesse dont il use et abuse: il fatigue jusqu'aux solides Hongroises des maisons mal famées de Prague!
Apollinaire ne dédaigne pas non plus le genre "sadique": ainsi son "Matelot d'Amsterdam", qui rentrant de Java, est abordé par un inconnu qui l'oblige à tuer sa femme et ensuite l'assassine. Ou encore ce conte flamand "Que vlo-ve?", luxurieux, cruel et grossier, qui sent la graisse, la bière et l' alcool: deux ivrognes s'y entre-tuent. Puis le vainqueur coupe le bras du cadavre de son compère, le met dans sa poche, et obtient les faveurs de la cabaretière, pendant que le bras du mort chatouille les deux amants qui s'embrassent.
Voici enfin les aventures fantastiques: celle de cet "Honoré Subrac" qui, poursuivi par un mari jaloux, peut, tant il a peur, se confondre avec le milieu ambiant et entrer dans les murs; ou celle de l' étrange baron d'Orseman, de "L'Amphion faux-Messie", qui a étudié les problèmes du toucher à distance et qui, après avoir installé son appareil devant toutes les synagogues, apparaît partout en même temps et se fait passer pour le Messie.
Il y a même un peu de mauvais goût, avec l'histoire de ce sénateur d'une "Famille vertueuse", qui offre à sa maîtresse une pierre étrange montée dans une bague magnifique: c'est un calcul qu'on vient d'extraire de sa vessie!
"L'hérésiaque et Cie" qui eut des voix au Prix Goncourt 1910, est sans doute le chef-d'oeuvre d' Apollinaire prosateur: il allie à la fois la gauloiserie, le fantastique, l' effroyable. Sans doute, sa valeur tient-elle pour une grande part dans l'opposition entre cette atmosphère indistincte et malsaine et le style sans bavure dans lequel ces contes sont écrits.