O Herbário da UFSM teve início em 1938 quando o médico Romeu Beltrão foi admitido na cadeira de Botânica Aplicada à Farmácia da Faculdade de Farmácia de Santa Maria, fundada em 30  de setembro 1931.

Suas coletas iniciaram frente à necessidade de manter uma coleção de plantas medicinais, com finalidade didática. Para isso, contou com a ajuda do Dr. Guilherme Rau (William Rau) que, apesar de médico, era um estudioso da Botânica e já havia lecionado durante 6 meses essa disciplina na mesma faculdade.

Alguns anos depois o próprio Guilherme Rau doou sua coleção particular de plantas ao Herbário da Faculdade de Farmácia.

Em agradecimento à grande colaboração prestada ao Herbário da Faculdade de Farmácia, no dia 23 de maio de 1962, Dr. Romeu Beltrão prestou uma homenagem a esse botânico, dando o nome de Padre Balduino Rambo à sala do Herbário, ocasião em que foi fixado quadro com um fotografia do referido padre. Nesta época o Herbário localizava-se no 6º andar do antigo prédio da Reitoria, localizada na rua Floriano Peixoto.

Em 22 de março de 1962 foi criado o Instituto de Ciências Naturais, sendo Dr. Romeu  Beltrão seu diretor até sua aposentadoria no ano de 1969. Nessa mesma época, com a reforma da Universidade os Institutos foram desmembrados, criando-se os departamentos. Foi nessa mesma ocasião que o Herbário da Faculdade de Farmácia passou a pertencer ao Departamento de Biologia.

Após a aposentadoria do Dr. Romeu Beltrão, o Herbário ficou sem comando, até 1976 quando foi designada como curadora a Professora Francisca Marlene de Silveira Vianna.

Em agosto de 1978 o Herbário foi indexado no Index Herbariorum e reconhecido internacionalmente com  a sigla SMDB (Santa Maria Departamento de Biologia), nessa ocasião, o Professor Adelino Alvarez Filho era o curador do Herbário e permaneceu nesse cargo até 1979.  Posteriormente  assumiu a Professora Amélia Moema Veiga Lopes até o ano de 1989.  A  partir desta data, a professora  Thaís Scotti do Canto-Dorow assumiu a curadoria do Herbário.  Em 1996 com seu afastamento para o doutorado, a curadoria foi assumida pela professora Juçara Terezinha Paranhos. Em  2002  a professora Thaís Scotti do Canto-Dorow reassumiu a curadoria até sua aposentadoria em 2013.

De 2013 até 2017 a curadoria ficou a cargo do  professor Renato Aquino Záchia. A partir de 2018 a curadoria ficou a cargo da professora Liliana Essi.