O Paulista Futebol Clube foi fundado por funcionários da Companhia Paulista de Estradas de Ferro, sucedendo outro clube que existiu entre os anos de 1903 e 1908, o Jundiahy Foot Ball Club.
Em 17 de maio de 1909, os antigos membros resolveram reorganizar-se e dar continuidade aos jogos de futebol, foi então que em frente à locomotiva nº 34 que estava encostada no pátio de manobras em frente às oficinas e bem próximas onde se localizava a fundição fundaram o Paulista Foot Ball Club, nome escolhido em homenagem à empresa que trabalhavam.
Nos primeiros anos de sua existência, o Paulista concentrou as suas atividades em disputas internas entre os associados e esporádicos jogos amistosos contra outras equipes. Em seus primeiros tempos, o clube utilizou um campo na atual Vila Rio Branco e em 1913 mudou-se para instalações em um terreno na Vila Leme.
Em 1919 o clube se filiou à APEA (Associação Paulista de Esportes Athléticos), passando a disputar o Campeonato do Interior, onde sagrou-se duas vezes campeão nos anos de 1919 e 1921.
Em 1926 houve uma dissidência na APEA e o Paulista foi convidado a integrar a LAF (Liga dos Amadores de Futebol). Na nova liga, o time jundiaiense, disputou os campeonatos paulistas da divisão principal de 1926 até 1929, sendo o primeiro clube do interior a disputar de forma completa um campeonato na elite estadual.
Com o fim da LAF, o Paulista concentra suas atividades nos campeonatos municipais, e durante os anos 30 e 40 torna-se o maior campeão da cidade.
Em 1948, com a criação da Lei do Acesso e a profissionalização do futebol no interior, o Paulista passa a disputar o Campeonato da Segunda Divisão da FPF.
Em 1957, o Paulista inaugura o estádio Dr. Jayme Cintra, sua casa até os dias de hoje.
Enfim em 1968 é que o clube consegue seu primeiro acesso, após uma campanha inesquecível, onde conquistou o título de maneira invicta, sendo até hoje o único clube do estado a conseguir um acesso sem perder nenhum jogo.
Em 1969 conquista o Torneio José Ermírio de Moraes Filho e em 1978 o Torneio Incentivo.
Foram 10 anos na primeira divisão, até ser rebaixado em 1978.
Em 1984, porém, o clube voltaria a conquistar o acesso, desta vez como vice-campeão, mas com uma goleada inesquecível no úlitmo jogo por 7 a 1 diante do VOCEM de Assis no estádio do Parque Antarctica em São Paulo.
