O nome Sabarabuçu é de origem indígena. Aceita-se, como um de seus significados, a tradução de "grande braço de pai", referindo-se ao Rio Sabará o "braço", afluente do Rio das Velhas "o pai".
O atual território de Sabará ficava na grande região do Sabarabuçu, conhecida desde o início da colonização do Brasil.
Outra versão é a de que o nome Sabará se origina da corruptela da expressão Itaberabussu, que quer dizer na linguagem indígena "pedra grande reluzente", numa alusão à Serra da Piedade que domina toda a região.