Florian Gmelin studierte an der Hochschule für Musik und Theater in München bei Matthias Weber und Thomas Jauch. Er war Mitglied im Gustav-Mahler-Jugendorchester und im Jugendorchester der Europäischen Union sowie Stipendiat der Münchener Orchesterakademie.
Von 2002 bis 2008 war er Erster Solobassist bei den Düsseldorfer Symphonikern. Seit der Spielzeit 2008/09 spielt er in derselben Position im Bayerischen Staatsorchester. Außerdem engagiert er sich als Vorstandsmitglied der Musikalischen Akademie.