Pertenece al conjunto de cuevas conocidas como las Cuevas de Valdegovía, junto con las cuevas de Pinedo, Corro y San Martín de Valparaíso. 

Estas son conocidas como cuevas artificiales  que se empleaban como ermitas, fueron talladas con el objetivo de ser habitables. Se trata de espacios de gran riqueza que ponen en valor la importancia que las ermitas y los ermitaños tuvieron en esta zona. Si bien las cuevas anteriormente mencionadas son las de mayor importancia y se encuentran en un mejor estado de conservación, se debe saber que en el valle de Valdegovía existen 6 cuevas artificiales más. 

Las cuevas fueron creadas con diferentes propósitos: la cueva templo (con una cavidad de mayor tamaño que se encontraba dividida en varias estancias), la cueva habitación (una cavidad única y de tamaño reducido generalmente) y la cueva necrópolis (con enterramientos en el interior y en el exterior).

La Cueva de Tobillas es una de las cuevas más sencillas de entre estas. Se encuentra excavada sobre la roca caliza y tiene relación con el origen del mismo pueblo de Tobillas. Podemos observar que el entorno de esta cueva ha sido reacondicionado a como era originalmente para permitir el acceso y el aparcamiento (como también sucede en las cuevas de Pinedo y Corro). 

La cueva de San Martin del Valparaíso se encuentra datada entre los siglos IX y X albergando en ella más de 30 tumbas, aunque para la mayoría de los visitantes las tumbas quedan eclipsadas en comparación con el hermoso paisaje del lugar. Podemos encontrar nada más llegar a la zona una impresionante roca de 20 metros de altura, que servía como cobijo para la necrópolis, y el poblado. Este es el ejemplo de cueva necrópolis más importante de las que hoy en día encontramos todavía en condiciones de poder visitarse.

Los ermitaños que habitaban en estas cuevas fueron personas que buscaban vivir la fe de una manera mucho más simple, solitaria y penitente que la que ejercía la iglesia. Este era un modo de vida que rechazaba cualquier tipo de jerarquía eclesiástica y los altos cargos que en la iglesia se realizaban. Eran monjes conocidos así, como ermitaños, que buscaban espacios apartados de la sociedad donde poder vivir sencillamente cobijados en cuevas que pasarían a ser sus ermitas. Con el paso del tiempo empezaron a construirse pueblos en las inmediaciones, desarrollándose junto con estas cuevas, llegando incluso a expandirse las cuevas hasta ser ermitas o incluso viviendas. Aunque otras fueron empleadas como necrópolis, muchas fueron simplemente abandonadas.

Las visitas a las diferentes cuevas se hacen un poco complicadas debido a que no existe ningún sendero, por lo que es recomendable llegar al lugar en vehículo móvil. Tampoco se encuentra ninguna fuente por el camino por lo que el agua deberá llevarla uno mismo si lo ve conveniente.