Segundo a tradição, José foi designado por Deus para se casar com a jovem Maria, mãe de Jesus, que era uma das consagradas do Templo de Jerusalém, e passou a morar com ela e sua família em Nazaré, uma localidade da Galiléia. Segundo a Bíblia, era carpinteiro de profissão, ofício que teria ensinado seu filho.
Segundo a Bíblia, no Evangelho de Lucas, o imperador Augusto, ordenou um recenseamento em todo o Império Romano, que na época incluia toda a região, e a jovem Maria e seu esposo José se dirigiram a Belém, por ser esta, terra de seu esposo. Nessa época, reinava na Judéia Herodes, o Grande, monarca vassalo dos romanos, célebre pela crueldade.
O texto do Evangelho deixa claro que José era o pai legal e certo de Jesus, pelo que (Mateus 1) é através de José que é referida a ascendência de Jesus até Davi e Abraão, embora o texto deixe inequívoco que ele não foi o pai biológico de Jesus. José quando encontrou Maria grávida "sem antes terem coabitado", "sendo justo e não a querendo infamar, resolveu deixá-la secretamente", quando na época a lei bíblica vigente (Deuteronômio 22) prescrevia a lapidação (morte por pedradas) das adúlteras. Eis que, então, enquanto José dormia, apareceu-lhe, em sonho, um anjo que pede-lhe que não tema em receber Maria como sua esposa, "pois o que nela foi gerado é do Espírito Santo", passagem normalmente interpretada pelos cristãos como uma concepção sem necessidade de uma participação masculina e, desde que se a suponha também virgem, de uma concepção virginal (já por tradições judaicas, Jesus é referido como "mamzer", algo como bastardo). De qualquer forma, portanto, o Evangelho não deixa dúvidas de que não é "pela carne" que Jesus herda os títulos messiânicos de "filho de Davi" e "filho de Abraão" com o que Mateus abre o Novo Testamento.