Уроженец Орехово-Зуева, он вырос в скромной еврейской семье часовщика, но с ранних лет поражал слух тонкостью музыкального восприятия. Его путь к вершинам начался в Московской консерватории, где он стал учеником великого Константина Игумнова и уже вскоре прославился как виртуоз с уникальным чувством формы и мелодической линии.
В 1930-е годы Флиер громко заявил о себе на конкурсах: он стал лауреатом Венского международного конкурса 1936 года и завоевал третью премию в Брюсселе в 1938-м. Его исполнение отличалось вулканической энергией, ясностью фразировки и внутренним огнём. Пианист покорил слушателей не только в Советском Союзе, но и за рубежом — от Парижа и Вены до Токио и Нью-Йорка. Музыковеды называли его «законодателем романтического исполнительства» и «властелином клавиш», а коллеги отмечали необычайную трудоспособность и фанатическую преданность делу.
Во время Великой Отечественной войны Флиер не остался в стороне: он входил в состав фронтовой бригады, выступая перед бойцами даже в блокадном Ленинграде. Один из его концертов состоялся на линкоре «Октябрьская революция» — под грохот снарядов, когда зал едва согревался теплом нескольких печек. Позже Флиер вспоминал, что никакое выступление не давало такого душевного подъёма, как эти минуты среди солдат на передовой.
После войны маэстро столкнулся с болезнью руки, из-за которой на время оставил сцену. Однако сила духа взяла верх — спустя несколько лет Флиер вернулся к активным гастролям, заново завоевав сердца слушателей. В те же годы он стал легендарным преподавателем: из его класса в Московской консерватории вышли Родион Щедрин, Лев Власенко и Михаил Плетнёв — будущие вершины советской музыкальной школы.
В его исполнении Бетховен звучал мужественно и философски, Шопен — нежно и певуче, а Рахманинов — как монолог человеческой души. Ученики и современники вспоминали, что Флиер обладал редкой способностью превращать каждое произведение в живой диалог между музыкой и слушателем. Его педагогический талант был не менее велик, чем пианистический — он умел «зажигать» учеников и пробуждать в них внутреннюю свободу.
Имя Якова Флиера до сих пор произносят с почтением. Ему посвящают концерты и памятные вечера, а в московском районе Щукино школа искусств носит его имя — в честь гениального музыканта, который сумел сделать музыку делом своей жизни и подарил миру вдохновляющую красоту звука.