일본의 역사는 우리나라와 마찬가지로 구석기시대부터 시작한다는 게 정설이다. 그러나 그 시기가 언제인지에 대해서는 명확히 밝히기가 힘들다. 지난 2000년 미야기 현(宮城縣) 가미타카모리(上高森) 유적에서 70만 년 전의 구석기 유물이 발굴됐다고 화제가 되기도 했지만, 이는 도호쿠(東北) 구석기문화연구소 부이사장 후지무라 신이치(藤村新一)가 몰래 묻어두었다가 마치 발굴한 것처럼 속였던 가짜 유물로 밝혀졌다. 발굴만 했다 하면 일본 구석기 연대의 기점을 끌어올리는 발굴 성과를 얻어내 ‘신의 손’으로 불렸던 후지무라의 작업이 사기극임이 밝혀지면서 일본 고고학계는 일본 구석기의 기점에 대해 다시금 고민하게 된 것이고, 현재도 그 고민은 진행형으로 이어지고 있다.
이에 반해 일본 신석기문화는 기원전 1만년~기원전 400년 경이라는데 일본 학계가 대체로 합의하고 있다. 이 시기를 상징하는 대표적 유물은 조몬(繩文)토기라고 부른다. 조몬토기에서 ‘繩(승)’은 새끼줄 같은 것을 의미하는데, 쉽게 말하면 조몬토기는 새끼줄 모양이 새겨진 토기를 말하는 것이다. 빙하기의 끝 무렵이던 신석기시대 초기, 일본 열도는 아시아 대륙과 연결돼 있었다. 섬이 아니었던 것이다. 때문에 사슴 등 사냥감을 따라 사람들은 요즘의 아시아 대륙과 ‘일본 열도’를 왔다 갔다 했던 것으로 추정된다. 빙하기가 지나고 난 뒤인 기원전 4000년~기원전 3000년 즈음에는 특히 온난한 날씨를 바탕으로 바닷물의 높이도 최고조에 달했다. 이에 따라 조개무지(패총)가 본격적으로 형성됐으며, 안정된 식량자원을 바탕으로 대규모 취락이 형성되기 시작했다. 기원전 1000년~기원전 400년 경인 신석기 만기(晩期)에 이르면 한반도로부터 전파된 것으로 추정되는 논농사(水田) 기술도 등장하기 시작한다.
조몬문화를 뒤잇는 문화는 야요이(彌生)문화다. 서기전 300년~서기 300년 경으로 추정되는 야요이문화의 특징은 농경과 금속기 사용이다. 야요이 시기는 석기와 목기로 만든 농기구로 농경을 했지만, 후기에 들어 철제 농기구가 보급되기 시작했다.
이 시기에는 청동기도 보급되기 시작했는데 세형동검 등 한반도에서 건너간 것들이 주종을 이루고 있다. 그러나 일본이 국가로서의 면모를 갖춘 시기는 소위 고훈(古墳)시기다. 서기 300년~서기 600년 경으로 추정되는 이 시기의 특징은 거대한 고분이 갑자기 출현한다는 점이다.
앞부분은 네모나고(방·方) 뒷부분은 원형(원·圓)을 띠고 있어서 ‘전방후원분’(前方後圓墳)으로 불리는 이 무덤들의 출현은 일본에 국가 권력이 본격적으로 형성되기 시작함을 의미하는 것으로 볼 수 있다. 무덤 부장품에도 구리로 만든 거울이나 칼, 금·은으로 된 각종 장신구 등 권력을 상징하는 물건들이 묻혀 있다.
이 시기에 국가 권력이 어떻게 형성됐는가에 대해서는 여러 설이 있다. 일본은 자신들이 최고(最古)의 역사서로 꼽는 .『일본서기(日本書紀)』 등에 따라, 일본 왕은 혈통이 끊이지 않은 만세일계(萬世一系)라고 주장하지만, 일본 학계에서도 이를 ‘정설’로 받아들이지는 않는다. 일본 국가 권력 형성에 대해서는 ‘기마민족이동설’, ‘일본열도분국설’ 등이 있다.
에가미 나미오(江上波夫)가 주창한 기마민족설은 부여계의 기마민족이 한반도 남부를 거쳐 일본의 기타규슈(北九州)로 진출하여 왜(倭)를 정복한 뒤 4세기 말~5세기 초 무렵에는 기나이(畿內)지방까지 정복해 왜한(倭韓)연합왕국을 세웠다는 것이다. 북한학자 김석형이 주장한 ‘일본열도분국설’은 일본 열도에 백제와 신라 등이 분국을 세웠다가 5세기 말경 백제계 세력에게 망했다는 주장을 담고 있다.
이 모든 주장은 어쨌든 소위 ‘고훈시기’를 시대적 배경으로 하고 있다. 6세기 후반 일본에서는 백제 등의 영향을 받아 불교를 공인하게 됐지만, 645년 백제 계통으로 권력을 장악했던 소가(蘇我) 씨가 쿠데타로 몰락한 뒤, 도읍을 나라(奈良) 근처 아스카(飛鳥)에서 오사카의 나니와(難波)로 옮기게 된다. 그리고 서기 646년 ‘다이카(大化) 개신’이 선포돼 대규모 개혁을 단행했다. 개혁의 핵심은 일본 왕의 절대적 권위 확립이었다. 율령체제가 정비되는 등 국가의 면모를 일신한 일본은 나당(羅唐)연합군의 백제 침공 때 백제 구원을 위해 2만 7000여 명의 대군을 보냈지만, 백촌강(白村江) 전투에서 패배한 뒤 산성을 쌓는 등 신라 침략에 대비했다. 불교와 유교 경전 등을 백제로부터 수입하며 한반도와 긴밀한 연관을 맺었던 일본은 그 뒤 이전만큼 한반도와 밀접한 관계를 맺지 못한 채 ‘섬나라’로 발전하게 된다.