A igreja de São Cláudio é hoje um edifício de traça recente, localizando-se fora de zonas urbanas, num ponto aproximadamente central em relação às três aldeias que fazem parte da freguesia de Gostei e servindo de sede paroquial a todas três. Tendo em conta a sua quase certa origem medieval, estará ligada à origem do atual povoamento da freguesia, sendo de realçar que pelo menos a aldeia de Gostei é claramente de origem medieval, mantendo ainda o seu pelourinho.
Em relação às prováveis origens medievais da igreja, é de salientar o aparecimento no adro de sepulturas de lages com vestígios osteológicos, que foram destruídas, assim como o relato local do aparecimento de duas sepulturas escavadas na rocha, de forma antropomórfica, na abertura ou arranjo da estrada que passa ao lado da igreja, tendo sido igualmente destruídas. No interior da igreja apareceram duas epígrafes de época romana, ambas de origem desconhecida.
Uma mantém-se ainda no interior da igreja, embutida na parede. É uma placa rectangular de granito, interpretada como inscrição honorífica ao imperador Cláudio, com a inscrição TI CLAVDIO / CAESARI A / VG GERMA / NICO IMP
A outra inscrição é um marco miliário de Maximiano, entretanto transladado para o museu de Bragança, com a inscrição D N IM[P] / CAE AVR / M VAL / MAXIMI / ANO
