Родной город писателя — польский Белосток, входивший в состав Российской Империи. Отец Якова работал счетоводом, а мать учительницей. Родной брат был писателем, который публиковался под псевдонимом Осип Дымов.
В сентябре 1883 года потерял отца и воспитывался матерью. В 1890 году начал ходить в школу, а спустя пять лет поступил в Белостокское реальное училище.
Первая публикация произведений автора произошла в 1899 году. 23 сентября в газете «Гродненские губернские ведомости» появился очерк «По поводу ожидаемого огненного дождя» под псевдонимом Я. П.
В августе 1901 года Перельман стал студентом Петербургского Лесного института. С первого курса Яков сотрудничал с различными научными журналами. Его очерк «Столетие астероидов» был опубликован в журнале «Природа и люди». На четвертом курсе обучения он стал ответственным секретарем журнала «Природа и люди», а после смерти главного редактора этого журнала, Перельман занял его должность.
В 1908 году Перельман защитил дипломную работу на тему «Старорусский казённый лесопильный завод. Его оборудование и работа» и получил звание «ученый-лесовод I разряда». По окончании института, он продолжает сотрудничать с журналом «Природа и люди».
В июле 1913 года вышла первая часть цикла «Занимательная физика», которая была тепло встречена публикой. Книга повлияла на повышение интереса к науке среди простого населения. В этом же году началась переписка с К.Э. Циолковским, которая длилась на протяжении всей жизни Циолковского, идеи которого Перельман использовал в собственных работах.
В 1916 году Перельман выпустил вторую часть «Занимательной физики».
В 1918-1923 годах Яков Исидорович работал инспектором отдела Единой трудовой школы Наркомпроса РСФСР. Под его руководством были составлены новые учебные программы по точным наукам для различных учебных заведений.
Писатель также занимался редакцией научно-популярного журнала «В мастерской природы», принимал непосредственное участие московской «Секции межпланетных сообщений», работал в отделе науки «Красной газеты» и т.д.
В 1939 году Перельманом была написана статья «Что такое занимательная наука». С начала Великой Отечественной войны читал лекции солдатам Ленинградского и Краснознаменного Балтийского флотов. Также для командиров партизан прочитал курс лекции о бесприборном ориентировании на местности.
16 марта 1942 года Яков Перельман скончался от истощения в блокадном Ленинграде в возрасте 59 лет.