同江市原名“临江”，土名“拉哈苏苏”，赫哲语，“废墟”或“老屋”之意。

在西周时代属肃慎部内地，秦汉时称挹娄，南北朝又称勿吉，隋唐时代勿吉一名消失，演变为黑水部落。公元726年，唐在黑水部落设立了黑水州都督府，后经过辽金时代和元明的统治。因其“濒临松花江南岸，北即黑河口，实为扼要咽喉”，1906年2月15日（清光绪三十二年正月二十二日）吉林将军奏准，于“富克锦东北之拉哈苏苏”（今同江市政府驻地）设置临江州，隶属依兰府。知州吴士澄于同年9月18日（农历八月初一日）启用关防“视事”。1909年6月2日（清宣统元年四月十五日）奏准升改临江府，隶属东北路道。

中华民国成立后，1913年3月，改临江府为临江县。1914年2月，因与奉天省临江县重名，奉令改为同江县。同年6月，隶属依兰道（由东北路道改称）。1929年2月，撤销道制，改由吉林省直辖，时为三等县。东北沦陷后，初隶吉林省，1934年12月，划归三江省管辖。1945年，抗日战争胜利后，划归合江省管辖。

1949年1月6日，东北行政委员会决定，撤销同江县，并入富锦县。同年6月，划为第十区。

1955年，改为同江区。

1959年4月24日，省人民委员会决定，将富锦县的同江区（包括同江、三村、乐业乡）划归抚远县管辖，并将同江区改为同江镇，抚远县人民委员会迁驻同江镇。

1965年8月23日，国务院决定，设置同江县，以抚远县西部地区，即同江镇和乐业、三村、街津口、八岔公社及勤得利农场乡为同江县的行政区域。县址设于同江镇。归合江专区管辖。同时，抚远县址迁至抚远镇。

1985年1月，合江地区正式撤销，划归佳木斯市领导。

1987年2月24日，国务院批准，撤销同江县，设立同江市（县级），由佳木斯市代管。