1849年9月26日,巴甫洛夫出生在俄国中部小城梁赞,他的父亲是位乡村牧师,母亲替人家做饭贴补家用。
巴甫洛夫自幼学习勤奋、兴趣广泛。由于他父亲喜欢看书,家中有许多像赫尔岑、车尔尼雪夫斯基等人的进步著作,在父亲的影响下,巴甫洛夫一有空就爬到阁楼上,读父亲的藏书。21岁时他和弟弟德米特里一起考入彼得堡大学自然科学系。
他和弟弟尽管在大学里学习优异并年年获奖学金,但生活还是比较清贫,需要给别人做家庭教师才能维持日常生活。为了节省车费,他们每天都要步行走好远的路。巴甫洛夫在大学里以生物生理学为主修课,学习十分刻苦,为了使实验做得得心应手,他不断练习用双手操作,渐渐地相当精细的手术他也能迅速准确地完成,导师很赏识他的实验才能,常叫他当自己的助手。巴甫洛夫不懂就问,每次手术都做得既快又好,渐渐有了名气。巴甫洛夫四年级时在导师指导下和另一同学合作,完成了关于胰腺的神经支配的第一篇科学论文,获得了校方的金质奖章。
1875年,巴甫洛夫获得生理学学士学位,成为自己导师的助教,同年他又考上了圣彼得堡大学医学院。1878年,他应俄国著名临床医师波特金教授之邀,到他的医院主持生理实验室工作。实验室听起来好听,其实只是一间非常陈旧狭小的屋子,它既像看门人的住房,又像一间澡堂,巴甫洛夫却在这里工作了10余年。
后来巴甫洛夫开始研究血液循环和神经系统对心脏的影响。1883年写成“心脏的传出神经支配”的博士论文,获得帝国医学科学院医学博士学位、讲师职务和金质奖章。