吉林将军衙门始设于顺治十年（1653年），清廷任命沙尔虎达为昂邦章京，海塔和尼噶礼为梅勒章京，镇守宁古塔等处地方。康熙元年（1662年），“宁古塔昂邦章京”正式改为“镇守宁古塔等处将军”，简称“宁古塔将军”，任命巴海为将军。康熙五年（1666年），宁古塔将军治所迁至宁古塔；康熙十五年（1676年），宁古塔将军奉旨移驻船厂；乾隆十五年（1750）十二月十九日，宁古塔将军衙门及所属部门的关防，一律改铸“船厂”字样，“镇守宁古塔等处将军”改称为“镇守船厂等处将军”。乾隆二十二年（1757）二月，“吉林将军印信内，汉书船厂二字，应改为吉林，并书清字，交礼部铸给……”，“镇守船厂等处将军”正式改为“镇守吉林等处将军”。吉林将军衙门下设吉林、宁古塔、伯都讷、阿勒楚喀、三姓、珲春等城副都统，协助将军管理驻防事务及八旗事务。

光绪三十三年（1907），随着清政府对东北地区管理体制和地方官制的改革，设立吉林行省，吉林将军从此退出历史舞台。光绪三十四年（1908）正月十九日，“吉林省印”正式启用。宣统元年（1909年），裁撤副都统衙门，设西南、西北、东南、东北四个路道，并增设府、州、厅、县等地方统治机构。

从宁古塔昂邦章京设置到吉林将军裁撤254年间，吉林地方历92任将军，将军既是吉林地方最高军政长官，也是最高行政长官，对所辖地区负有“缮固镇戍、绥和军民、秩祀山川、辑宁边境”之责，以“军府之规”行“旗民之治”。吉林将军衙门设有户司、兵司、刑司、工司、印务处等专门负责管理各项事务。吉林行省设有民政司、交涉司、度支司、提学司、提法司、劝业道、文案处和旗务处。历任有影响的吉林将军为阿喇善、秀林、富明阿、铭安、希元、长顺等，改设行省之后，首任吉林巡抚朱家宝，继任陈昭常直至清亡。　

吉林将军衙门现存档案10万余卷（件），以折件居多，包含满文、汉文、满汉合璧等语种。档案起止时间自乾隆十九年（1754年）至宣统三年（1911年），该全宗档案数量庞大、内容丰富，反映了150余年间吉林将军衙门行政管理、财税金融、文教卫生、民政、军事、司法、实业、教育、礼俗以及清末各阶层人民群众的反抗斗争等。