내부에서 제기된 가장 심각한 도전은 영지주의자들(Gnostics)이었다. 영지주의에는 다양한 경향을 지닌 사상들이 혼재되어 있었다. 영지주의자들은 자신들이야말로 종교의 비밀을 가지고 있다고 자부하였다. 이비밀스러운 지식(그리스어로gnosis,여기에서 영지주의라는 이름이 유래되었음)의핵심은, 물질 세계는 악하고, 몇몇 선택된 사람들의 영혼은 물질로부터 벗어나기 위해서 투쟁할 수 있다는 믿음이었다. 영지주의자들은 여러 가지 비교적인 방법도 알고 있었다.

또한 영지주의 내의 모든 분파들은 자신들만이 진리를 갖고 있다고 생각하였다. 따라서 그들은 다른 영지주의자들이나 다른 종교인들을 경멸하였다. 이들은 한낱 진리의 그림자에 불과하다는 이유에서 였다. 영지주의는 아마도 사도 시대에 교회 안으로 유입되었을 것이다. 바울도 콜로사이인들과 코린토인들에게 보내는 편지에서 그러한 가르침에 반대하고 있다. 1세기 말부터 2세기 중엽까지 정통 교회의 지도자들은 열 두개 정도의 영지주의 분파와 싸웠다. 이들 분파들이 교회를 자신들만의 비밀 종교로 바꾸려고 획책했기 때문이었다.

모든 영지주의자들은 성육신을 부정하였다. 물질은 약하다는 자신들의 신념상 당연히 그렇게 될 수 밖에 없었다. 영지주의 분파의 지도자인 이집트의 바실리데스와 로마의 발렌티누스는, 예수는 단지 인간의 모습으로 나타났지만 실제로는 영(靈)이었을 뿐이라고 하면서 이것이야말로 '참된 기독교의 가르침이라고 주장하였다. 사람들은 이러한 이단을 가리켜서 가현설(docetism, 그리스어 dokesis는 '외적인 현현'이라는 뜻임)이라고 불렀다.

▶ 영지주의의부적

로마에는 악령에 대한 신앙이 보편적으로 퍼져있었으므로 많은 사람들은 위의 사진과 같은 부적을 몸에 지니고 다녔다. 이 부적은 아마도 전사를 보호하거나 사후에 그의 영혼을 돕기 위한 부적일 것이다. 영지주의자들에 의하면 사후에 영혼은 악의 세력이 다스리는 일곱개(알려진)의 별을 통과해서 상승한다. 그리하여 물질적인 세계를 넘어서 순수한 영혼의 세계에서 완성된다는 것이다.