Свой творческий путь Ярмольник начал после окончания Щукинского училища в театре на Таганке. Здесь он проработал до 1984 года. В кино Ярмольник дебютировал в 1974 году, но это были роли эпизодические и оставшиеся практически незамеченными. Известность пришла к актеру в самом конце 70-х годов — он появился в телевизионной передаче "Вокруг смеха". Потом давний друг Александр Абдулов привел его к Марку Захарову на съемочную площадку телефильма "Тот самый Мюнхгаузен" , а эпизодическая роль из боевика режиссера Владимира Фокина "Сыщик", где Ярмольник играл бандита Гнуса, запомнился многим зрителям. В последующие годы Ярмольник много снимался — он играл в фильмах "Человек с бульвара Капуцинов", "Ищите женщину", "Француз", "Две стрелы", "Паспорт", передает ИТАР-ТАСС.
С 1993 года Леонид Ярмольник много работает на телевидении, куда его пригласил Влад Листьев. Из конкурсно-развлекательных передач, ведущим которых стал Ярмольник, можно назвать популярный "Эль-клуб" и "Золотую лихорадку". Творческой удачей актера стал фильм "Московские каникулы", в котором он исполнил главную роль, однако эта лента продемонстрировала и несколько иные его таланты. Ярмольник был продюсером картины.
Сейчас Ярмольник снимается в фильме Алексея Германа "Трудно быть богом".
