许多日本学者早就注意到,日本语的语法结构与包括朝鲜语在内的阿尔泰语系的语法结构有许多相似之处。例如,宾语或补语置于动词谓语之前,语句的构成顺序是主语—宾语—动词谓语;在单词后附加助词或助动词,表示语法意义;名词无性与单复数的区别等。这表明日本语和阿尔泰语系诸种语言(包括朝鲜语)可能是从共同祖语分化而来的同系统语言,因而日本民族在人种血缘关系上,也可能与生活于东北亚的阿尔泰语系诸民族具有某种关连。但是,他们也同时注意到,日本语和阿尔泰语系诸种语言之间,也有一些不同点,例如缺少单词读音的音韵对应关系,因而阿尔泰语系不可能是日本语的唯一来源。
于是,一些学者逐渐注意到,日本语与“南岛语系”(即马来—玻里尼西亚语系)之间或许有某种亲缘关系。“南岛语系”是分布于西起印度洋的马达加斯加岛,经马来西亚、印度尼西亚,东至南太平洋诸岛的一大语系,起范围可至中国南部的一些非汉族的少数民族。“南岛语”与日本语的类似是:元音(母音)有5个,音译读法(a I u e o),不使用双重元音;单词以元音结束;浊音不同于单词之首等。这表明,使用“南岛语”的东南亚的一些民族,有可能对日本民族的构成曾发生影响。但是,足以证明这些民族曾从南太平洋或东南亚直接进入日本列岛的考古学依据,却十分罕见。一些学者便推测,南岛语系的语言可能是经过中国南部,然后传入日本的。
近年来,有许多学者认为,应将日本语视为“混合语”,即日本语是在漫长的历史中,由若干种语言混合而成的。有的学者从语言学、考古学和民族学诸学科综合研究结果,认为古代日本语的形成,大约经历了这样的过程:在绳纹时代之前的数千年,在东北亚地区的落叶林带,可能存在一种称为“原东北亚语”的基础语。绳纹时代初期的日本语可能来自这一系统,日本语中的阿尔泰语系的某些特征可能由此而来。而到了绳纹时代晚期或弥生时代初期,从事水田稻作的移民,由朝鲜半岛,或直接由中国长江下游地区进入日本。这样,不仅从朝鲜半岛继续传入阿尔泰语系的语言,而且也可能有中国长江下游地区的吴、越语传入日本。(有的学者认为吴、越语均属南方系统的语言,越语属南岛语系或泰语族,吴语则属藏缅语族。)日本语中的南岛语系的某些特征则可能由此而来。进入古坟时代,中国大陆移民增多,汉语对日本语的影响更为强烈。正是上述这些语言要素的混合,形成了古代的日本语。