早在1921年，金陵大学大图书馆与美国农业部组织合作部合作汇编中国古代农书索引，由王德女士负责，后扩为研究部，由万国鼎先生负责。中国农业遗产研究室的前身——金陵大学图书馆农史研究室即已开始从事祖国农学遗产的搜集与整理工作，1932年，该研究部并入金陵大学农业经济系，改组为农业历史组，开始农业史资料收集研究工作。至1937年抗战前已积聚古书中有关农业的资料共3000万余字。1937年，因战火纷扰，研究工作陷于停顿。
1952年，金善宝院长提出恢复金大农史资料整理工作，受到中央人民政府的高度重视。1955年，中国农业遗产研究室正式成立，首任主任为万国鼎先生。1955年春夏之间，将已有农史资料汇编成《先农集成》420册。1955年4月，农业部“中国农业科学院筹备小组”在北京召开整理中国农学遗产座谈会，并于同年7月成立中国农业遗产研究室。1966—1977年，机构撤销。少数研究人员寄寓江苏省农业科学院。
1978年，经国务院批准，恢复建制，更名为中国农业科学院农业技术史研究室。室址设在江苏省农科院内。1979年，全室迁回南京农学院（卫岗）院内。1981年，改名为中国农业科学院南京农学院中国农业遗产研究室。此后，我室进入了一个新的历史发展时期。1984年，更名为中国农业科学院南京农业大学中国农业遗产研究室。
1981年被批准为农业史硕士学科点，1986评为农业史博士学科点，1993年评为农业部重点学科，1997年学科专业目录调整后，划入理学类一级学科科学技术史，1998年被评为唯一的理学类博士后流动站科学技术史站点，1999年再度被评定为农业部重点学科。在农业史科研与教学、农业史文献收藏等方面，本学科点均处于国内和国际领先地位。
本室计划在2000—2005年间，引进、选留优秀博士毕业生2—3人，进一步提高学术队伍的素质，造就在国内外有影响的学科带头人3人，青年学术骨干10名，其中硕士学位以上人数占80%以上；培养出适合农史教学科研、政府农业行政管理、古籍档案及方志编修等方面的博士10—20名，硕士30—35名；在中国农业史的综合研究、传统农业发展的动力机制与制约因素研究、近现代农业史研究以及农业历史文献研究与整理等方面取得几项有突破性的研究成果。在保持传统优势的基础上，积极创造条件，拓宽研究领域，谋求更大发展，站在世界的高度，将农业遗产研究室建设成为具有国际水平的农史研究中心、人才培养中心和农业历史文献信息中心。
(详见本院概况)