富锦,原名“富克锦”,由明代“弗提卫”或“福题希卫”转音。清代称“富提新”(又作“福替新”)、“福题希”,赫哲语,意为“高岗”。清末,汉语称“富克锦”。周属肃慎,汉属挹娄,唐属黑水都督府,辽属女真五国部,金属胡里改路,元属水达达路,明属奴儿干都司,清属三姓副都统辖区。1882年(清光绪八年),于戛尔当屯(今富锦市区西3公里)添设富克锦协领,归三姓(今依兰县)副都统领属。1908年(清光绪三十四年),临江州于富克锦县城设置分防巡检。
1909年6月2日(清宣统元年四月十五日),吉林巡抚奏准,以富克锦巡检升改富锦县,驻富克锦城,隶属临江府(由临江州升改);同时,裁撤协领。同年9月,改隶东北路道。中华民国成立后,1914年6月,东北路道改为依兰道,由依兰道管辖。
1929年2月,裁撤依兰道,由吉林省直辖。东北沦陷后,初隶吉林省,1934年12月划归三江省管辖。1945年“九三”抗战胜利后,划归合江省管辖。1946年1月,合江省于富锦县城设立富锦专区,管辖富锦等6县。同年6月1日,撤销富锦专区,同时合江省政府决定,将西南部的集贤、三道岗地区划出,设置集贤县。1947年11月,将西部的新城区划归桦川县管辖。19 49年1月6日,合江省政府令,将同江县并入富锦县,并划为同江区。同年5月,合江省并入松江省,富锦县隶属松江省。同年6月23日,东北行政委员会批准,将绥滨县并入富锦县。195 4年8月,松、黑两省合并后,富锦县隶属黑龙江省合江专区。
1959年4月24日,省人民委员会决定,将富锦县的同江区划归抚远县管辖。1963年12月30日,国务院批准,将松花江北绥滨地区划出,恢复绥滨县。翌年3月,富锦、绥滨两县正式分开。1985年1月,合江地区与佳木斯市合并,划归佳木斯市领导。1988年8月30日,国务院批准,撤销富锦县,设立富锦市(县级),为省辖市,由佳木斯市代管。