A igreja de São José, no Jardim Paulista, em Guarulhos, foi fundada em 20 de março de 1983, em missa presidida pelo padre Ismael, primeiro responsável pela comunidade. Em 1985, as obras foram concluídas e a capela foi administrada pelo bispo de Guarulhos, dom João Bergese. Em 15 de novembro de 1987, dom João instituiu a Paróquia São José. Desde então, foram párocos os padres Peppe (1987), Hermano (1987 a 1991), Mauro (1991 a 2009), Francisco (2009 e 2010), Paulo Leandro (2010 a 2018) e padre Weber Galvani, que é responsável pela paróquia desde 30 de outubro de 2018.

Além da capela São José, formavam a paróquia as comunidades São Barnabé, no Jardim Gracinda, São Paulo Apóstolo, no Parque Continental II, Santa Rosa de Lima, no Parque Continental III, e São Pedro Apóstolo, na Vila Operária.

Em 2021, houve o desmembramento da Paróquia São José, que culminou com o surgimento da Paróquia São Paulo Apóstolo. Desde então, a Paróquia São José passou a contar apenas com a igreja matriz e a Capela Santa Rosa de Lima.