Situé dans le Haut Nivernais au Nord du département de la Nièvre, à proximité de Clamecy, Chevroches doit son originalité à sa situation géographique. 
Il se compose de deux localités : le Bourg, qui est l'agglomération principale, et le hameau de Chantenot.
Pittoresque village s'étageant au bord du canal du Nivernais, sur la rive gauche de l'Yonne, Chevroches a vécu au rythme de l'exploitation des carrières de pierre pendant de nombreuses années. 
Le nord de la commune est constitué d'un promontoire rocheux qui domine la plaine alluviale. Adossé à un plateau calcaire, il aligne ses maisons de carrier, vivant en harmonie avec la forêt, la pierre et les eaux.
Chevroches doit son nom à une particularité du sol sur lequel il est établi. Appelé tour à tour au Xème siècle CAVA ROCCA qui signifie “roches creuses” en latin puis CAVA RUPPE, ces appellations sont certainement liées à la géologie. Le développement du karst permet de découvrir plusieurs entrées de grottes.