Primeiro time de futebol da cidade de Mogi, o Mogi Mirim Esporte Clube foi fundado no dia 1º de fevereiro de 1932 e no mesmo ano participou pela primeira vez de uma competição oficial: o Campeonato do Interior. No ano seguinte, sagrou-se campeão do torneio que disputou ainda por mais de duas décadas. Enfim, em 1954, a agremiação se profissionalizou e estreou no Campeonato Paulista da Segunda Divisão.

Em 1959, o clube licenciou-se da Federação Paulista de Futebol e permaneceu inativo por dez anos, retornando às atividades profissionais apenas em 1970, novamente na Segunda Divisão. Os anos foram se passando e, entre 1978 e 1981, o Mogi Mirim esteve na Terceira Divisão, retornando à Segunda no ano seguinte. Enfim, em 1985, um dos objetivos foi alcançado, quando conquistou o título do Campeonato Paulista da Segunda Divisão e obteve o direito do acesso à Primeira, em 1986.

Durante oito anos, o “Sapão”, como é conhecido o clube por ter como mascote um sapo, esteve na elite do futebol estadual. Nas temporadas de 1992 e 1993, o elenco que representava a equipe no Paulistão recebeu o nome de “Carrossel Caipira”, em alusão ao estilo de jogo parecido com o da Seleção da Holanda na Copa do Mundo de 1974. Neste grupo estavam jogadores como Leto, Válber e o pentacampeão pela Seleção Brasileira, o meia-atacante Rivaldo, todos comandados pelo técnico Oswaldo Alvares, o Vadão. Ainda no ano de 1992, o time levantou o título da Copa 90 anos da Federação Paulista de Futebol.

Em 1994, o clube acabou rebaixado à Série A2, mas no ano seguinte conquistou o título da categoria e voltou à elite do futebol paulista. O Mogi Mirim permaneceu nos anos seguintes realizando campanhas intermediárias na competição estadual, enquanto no ano de 2001 foi vice-campeão do Campeonato Brasileiro da Série C, conquistando o acesso à Série B do torneio nacional, competição que disputou de 2002 até 2004, quando foi novamente rebaixado.

Em 2006, clube obteve sua primeira glória com suas categorias de base: o título do Campeonato Paulista Sub 20. Mas no mesmo ano o Mogi Mirim foi rebaixado para a Série A2 do Campeonato Paulista, que disputou em 2007 e 2008. Já com o craque Rivaldo como presidente voltou à elite do Paulistão em 2009 e terminou a competição em 16º lugar.

No ano seguinte, o Mogi mais uma vez não consegue se classificar para a semifinal da Série A1 do Campeonato Paulista ficando na 12ª posição, com 24 pontos. Na Copa Paulista de Futebol também é desclassificado na primeira fase da competição.

De volta do Uzbequistão, Rivaldo chegou a treinar para novamente vestir a camisa do clube no Campeonato Paulista de 2011, mas acertou com o São Paulo já com a competição em andamento e se licenciou da presidência do clube.
O Mogi Mirim terminou o Campeonato Paulista de 2011 na 11ª colocação.

Nos dois anos em que se seguiram, o clube fez boas campanhas na primeira fase, mas acabou esbarrando no Santos de Neymar e companhia. Primeiro ficou em sexto lugar em 2012 e derrotado nas quartas de final por 2 a 0 pelo time que mais tarde seria campeão.

Já em 2013, a campanha foi ainda melhor, pois ficou em segundo, dois pontos atrás do líder São Paulo, goleou o Botafogo por 6 a 0 nas quartas de final e recebeu o Santos na disputa da semifinal, onde só foi derrotado nos pênaltis.

As boas campanhas estaduais permitiram uma ascensão nacional ao clube, que chegou à semifinal da Série D do Campeonato Brasileiro em 2012 e conquistou o acesso para a Série C nacional.

No ano de 2014, o Alvirrubro não obteve um desempenho de destaque no estadual, e terminou na penúltima colocação de seu grupo, eliminado ainda na primeira fase da competição. Em contrapartida, no segundo semestre do ano, o Mogi Mirim conquistou o acesso à Série B do Campeonato Brasileiro, garantiu seu retorno à divisão após dez anos e deu sequência ao aproveitamento positivo em competições nacionais.

Em 2015, o clube foi eliminado também na fase inicial do Campeonato Paulista e o fracasso se repetiu, tendo em vista que o objetivo do clube era chegar à fase de mata-mata do torneio.