Tēlnieks dzimis 1913. gada 12. maijā Rūjienā. 1934. gadā, radu un draugu mudināts, Zariņš devās uz Rīgu, kur iestājās Reguta koktēlniecības kursos. Pēc kursu beigšanas sekoja karadienests Daugavpilī, kura laikā liktenīga bija tikšanās ar gleznotāju Kārli Sūniņu. Pēc saspringta gatavošanās darba iestājpārbaudījumiem Sūniņa vadībā, Jānis Zariņš 1936. gadā tiek uzņemts kā brīvklausītājs, un pēc gada kā pilntiesīgs students Mākslas akadēmijā. Jau pirmajā semestrī Kārlis Zāle uzaicināja jauno studentu figurālās tēlniecības meistardarbnīcā. Zariņa skolotāji bija arī Konrāds Ubāns, Augusts Annuss, Boriss Vipers, Kārlis Miesnieks, Kārlis Zemdega. 1942. gadā Zariņš ieguva mākslinieka tēlnieka grādu ar diplomdarbu Uz cīņu. Diplomdarbu vadīja Kārlis Zāle.
Jau uzsākot radošās gaitas, tēlnieks tika mīlēts un atzīts mākslas un kultūras darbinieku aprindās. Bieži viesi Zariņa darbnīcā bija grafiķis Aleksandrs Junkers un dzejnieks Aleksandrs Čaks. Tas bija laiks, kad mākslinieka dzīvē ienāca viņa mūza – Biruta Zariņa, sieva, draugs un modelis mūža garumā.
Mākslas izstādēs Zariņš sāka piedalīties tūlīt pēc Akadēmijas beigšanas. Pirmie patstāvīgie lielformāta darbi Sievas portrets un Kailā izstādīti 1943. gadā, kur Vispārējā mākslas izstādē Rīgā Zariņš ieguva labvēlīgu mākslas kritiķu vērtējumu. Turpmāk sekoja dalība izstādēs Latvijā, Lietuvā, Igaunijā, Maskavā un citās PSRS pilsētās, kā arī Londonā, Parīzē, Helsinkos līdz pat 1996. gadam.
J. Zariņa ētiskā ideāla apliecinājums ir skulptūra Rīts, kas tapusi 1958.gadā un šobrīd atrodas Bastejkalna apstādījumos Rīgā. Nozīmīgs devums ir Latvijas dižgariem veltītie pieminekļi portreta žanrā – R. Blaumanim, Kr. Baronam, Ģ. Eliasam, Jelgavā pie Academia Petrina ēkas, Rainim un Aspazijai Slobodskā, u.c.
Zariņš bija tēlnieku autorkolektīva vadītājs Salaspils memoriālajam ansamblim, kas tapa laika posmā no 1962. līdz 1967. gadam. Salaspils memoriālais ansamblis nav uzskatāms, kā savu nozīmi zaudējis reizē ar līdz ar padomju sistēmu un tās ideoloģiju. Tas ir un vienmēr paliks nopietns ieguldījums mākslas vēsturē un liela apjoma memoriālo ansambļu attīstībā Latvijā.
Latvijas mākslā paliekoša vērtība ir arī tēlnieka veidotajām medaļām. Tās veidotas Latvijas un pasaules izcilām personībām – E. Dārziņam, J. Vītolam, Rainim, Aspazijai, Bēthovenam un daudziem citiem. Bronzā ir atlietas 56 plaketes. Īpaša vieta Zariņa radošajā darbā ir ciklam, kas veltīts Latvju Dainām.
Tēlnieks pēdējos mūža gadus pavadīja tuvāko draugu lokā. Zariņš aizgāja mūžībā 2000. gada 18. janvārī, atstājot vairāk kā 500 darbus. Kā pēdējie darbi minami 1997. gadā veidotais Sievas portrets bronzā un nepabeigtais K. Ulmaņa portrets.