日本原先没有文字.公元三、四世纪（我国的晋朝时期）,日本人学习汉语汉字的文言文.后来,就借用汉字记写日语.借法有二：一种是借用汉字的读音（汉字的古代读音）作为表音符号,而忽略该字的意义（叫“音读”）,一种是借用汉字的意义,忽略该字的读音,而按照日语的说法来读（叫“训读”）.
日本人仿照汉字也自造了一些日本专用汉字,字数约120多个,称为“倭字”或“国字”.
大约在公元五世纪,日本人把汉字楷书进行简化,取其片段,创造出表音的“片假名”.大约自公元七世纪（我国的唐代）起,又有日本人把汉字的草书作为表音字母,产生了“平假名”.后来,经过逐步变化和改进,日文中汉字、片假名、平假名以及后来设计的附加符号、补充字母的使用有了统一的规范,成为汉字和假名混合的现代日本文字.
日本自造的“倭字”当然是中国汉字不具有的.
日本借自中国的汉字同现在的中国汉字,由于在各自的国土和社会群体中使用,发展演变情况不完全相同,所以无论在字形或字义上都有着不少差异.至于读音,训读的汉字当然与中国汉字不同,音读的汉字由于用的是汉字的古代读音,所以也与现代中国汉字很不相同.
日本也进行汉字笔画简化,因此,双方的字形差异主要由于两国对汉字所定的简化规范有异.一是双方对同一个字采取了不同的简体.
字义方面,有很多字中国和日本的差别不太大.可是,也有一些字义迥异,如：“省”,日本义为中央级行政部门,“ ”,（汉字“样”的繁体字形）,日本为接尾词,接在人名或表示人的名词后以示尊敬.至于汉字构成的双音节词,其词义与汉语相异的也很多,如：“高校”,日本义为高级中学,“汽车”,日本义为火车（“自动车”才相当于汉语的“汽车”）,“丈夫”,日本义为（身体）健康或坚固、结实.日本还有些由汉字构成的词是汉语不具有的,如“子供”（孩子）、“被写体”（大致意义是“公众人物”）等.
此外,日本汉字的数量也与中国不同,具体情况可以参看“日本在限制和使用汉字方面情况怎样”.
