マラッカに戻り、1547年12月に出会ったのが鹿児島出身のヤジロウ(アンジロー)という日本人であった。
1548年11月にゴアで宣教監督となったザビエルは、翌1549年4月15日、イエズス会士コスメ・デ・トーレス神父、フアン・フェルナンデス修道士、マヌエルという中国人、アマドールというインド人、ゴアで洗礼を受けたばかりのヤジロウら3人の日本人とともにジャンク船でゴアを出発、日本を目指した。
布教は困難をきわめた。初期には通訳を務めたヤジロウのキリスト教知識のなさから、キリスト教の神を「大日」と訳して「大日を信じなさい」と説いたため、仏教の一派と勘違いされ、僧侶に歓待されたこともあった。ザビエルは誤りに気づくと「大日」の語をやめ、「デウス」というラテン語をそのまま用いるようになった。以後、キリシタンの間でキリスト教の神は「デウス」と呼ばれることになる。