Non è del tutto chiaro se l'omonimo personaggio, citato negli Atti degli Apostoli (8, 9-25), sia stato il fondatore di una scuola di pensiero gnostico. Secondo alcuni autori, il Simon Mago gnostico visse probabilmente uno o due generazioni più tardi del Simone degli Atti.
Comunque, tradizionalmente si ritiene Simon Mago sia nato a Gitta vicino a Samaria (per questo detto anche Simone il Samaritano) e, intorno al 37, abitasse in quest'ultima città, esercitando la professione di "mago", cioè praticante di arti magiche e occulte, ma rimanendo incantato dalle prediche di Filippo, diacono cristiano della città, avesse chiesto ed ottenuto di essere battezzato. Volle, inoltre, cercare di comprare con il denaro il potere di imporre le mani per donare lo Spirito Santo, ma non ottenne altro che incorrere nelle ire di San Pietro. Da questo primo tentativo di commercio di cose sacre , deriva il termine di simonia, che avrebbe avuto un peso molto rilevante nella diatriba fra i cattolici e Lutero nel XVI secolo.
Altre testimonianze, da prendere col beneficio dell'inventario, derivano da autori cristiani, come S. Giustino e da testi apocrifi, come gli Atti di San Pietro o le Pseudo-clementine. Questi riferirono la presenza di Simon Mago a Roma durante i regni degli imperatori Claudio (41-54) e Nerone (54-68), dove ottenne fama e gloria, ma dove fu sfidato ad un confronto pubblico dai Santi Pietro e Paolo, rimettendoci la pelle in due versioni differenti:
Le sue dottrine, forse influenzate dal dualismo del mazdeismo iraniano, sembrano far parte di uno gnosticismo di tipo celestiale, nella quale egli proclamò se stesso un'emanazione di Dio in grado di manifestarsi come Padre, come Figlio o come Spirito Santo, ed Elena, un'ex prostituta di Tiro e forse la sua compagna, il primo concetto della sua mente (Ennoia), la madre di tutti, attraverso la quale la Deità aveva creato gli angeli e gli eoni. Ennoia era poi decaduta nel mondo materiale, da lei stessa creato.
Simone insegnava quindi a riconoscerlo come Dio e fondò una setta, detta dei Simoniani, che proclamò la sua deità, affermando che la sua missione era di salvare il mondo dal cattivo governo degli angeli, tra cui il Dio dell'Antico Testamento. Inoltre, per spiegare la crocefissione di Gesù, S. formulò il concetto docetico che il Cristo non aveva sofferto sulla croce, poiché l'episodio del Calvario era solo apparente, proprio come lui (Simone) era Dio in realtà ed un uomo in apparenza.
Fu inoltre accusato (postumo) di oscenità, a causa di riti sessuali, da parte degli autori cristiani Ireneo e Epifanio. Alcuni autori, però, in contro tendenza, non hanno giudicato Simon Mago un eretico cristiano, in quanto, secondo loro, non era da considerarsi neppure cristiano, poiché il suo impianto filosofico non presentava sufficienti connotati cristiani o giudei.
Dante Alighieri ricorda Simon Mago nell'Inferno nel girone degli fraudolenti, nel canto XIX, 1:
O Simon mago, o miseri seguaci
che le cose di Dio, che di bontate
deon essere spose, e voi rapaci
per oro e per argento avolterate,
or convien che per voi suoni la tromba,
però che ne la terza bolgia state.