J.R.D. Tata s-a născut pe 29 iulie 1904 în Paris, fiind al doilea copil al lui Ratanji Dadabhoy Tata şi al soţiei sale de origine franceză, Suzanne „Sooni” Brière. Tatăl său a fost văr primar al lui Jamsetji Tata, un pionier al industriei indiene. J.R.D. Tata şi-a petrecut mare parte din copilărie în Franţa. A studiat în cadrul şcolii Janson De Sailly din Paris, iar ulterior a fost educat în Londra, Japonia, Franţa şi India. În octombrie 1932, după ce mama sa a murit, tatăl lui Tata a decis să îşi mute familia în India şi să îl trimită pe J.R.D. la studii în Anglia, în octombrie 1923.
Tânărul s-a înscris la o şcoală de gramatică, fixându-şi ca obiectiv să studieze ingineria la Cambridge. La scurt timp după ce cursul de gramatică s-a încheiat şi spera să fie acceptat la universitatea britanică, în Franţa s-a aprobat o lege prin care toţi bărbaţii de origine franceză sub 20 de ani erau obligaţi să îndeplinească serviciul militar. Ca cetăţean francez, J.R.D. trebuia să se înroleze în armată pentru cel puţin un an.
După ce s-a înrolat în Armata Franceză, a fost trimis într-un regiment numit Spahis. Colonelul regimentului a aflat în scurt timp că Tata poate nu doar să citească şi să scrie în franceză şi engleză, dar şi să dactilografieze, prin urmare l-a desemnat secretar al biroului său. După o perioadă de 12 luni de serviciu în Armata Franceză, a vrut să meargă la Cambridge pentru a-şi continua educaţia, dar tatăl său a decis să îl aducă înapoi în India, unde s-a alăturat companiei Tata & Sons ca ucenic neplătit în 1925. În 1929, J.R.D. Tata a renunţat la cetăţenia franceză, a devenit cetăţean indian şi a fost angajat în cadrul companiei. În 1930 s-a căsătorit cu Thelma Vicaji, fiica lui Jack „Prinţul” Vicaji, un avocat pe care l-a angajat ca să îl apere de acuzaţia de a-şi fi condus Bugatti-ul cu viteză prea mare pe principala promenadă din Mumbai (pe atunci denumit Bombai), Marine Drive.
Inspirat de pionierul Louis Blériot, Tata a luat lecţii de zbor, iar pe 10 februarie 1929 a obţinut primul brevet de pilot emis în India. A devenit ulterior cunoscut drept părintele aviaţiei civile indiene, ca urmare a faptului că a fondat prima linie comercială a Indiei, Tata Arilines, în 1932 (companie ce avea să devină în 1946 Air India, linia aeriană naţională a Indiei). În 1938, la vârsta de 34 de ani, J.R.D a fost ales preşedinte al Tata & Sons, succedându-l pe unul dintre verii săi, funcţie ce l-a făcut şeful celui mai mare grup industrial din India.
A condus astfel grupul de companii Tata, cu activitate în industria oţelului, ingineriei, energetică, industria chimică şi ospitalităţii vreme de mai multe decenii. Tata a devenit faimos pentru faptul că şi-a menţinut standardele etice în conducerea companiei şi pentru faptul că a refuzat să mituiască politicieni sau să se folosească de piaţa neagră. A început cu 14 companii sub conducerea sa, iar jumătate de secol mai târziu, pe 26 iulie 1988, când a părăsit compania, Tata & Sons era un conglomerat format din 95 de companii. Sub conducerea sa, activele grupului Tata au crescut de la 100 de milioane de dolari la 5 miliarde. În 1945, J.R.D. Tata a pus bazele Tata Motors, iar trei ani mai târziu Tata a lansat Air India International drept prima linie aeriană internaţională a Indiei. În 1953, guvernul indian l-a numit pe J.R.D. Tata drept preşedinte al Air India şi director de consiliu al Indian Airlines – o funcţie pe care a avut-o timp de 25 de ani.
J.R.D. a fost renumit şi pentru modul în care şi-a tratat angajaţii – în 1956 a iniţiat un program de asociere a angajaţilor cu managementul, astfel încât angajaţii să aibă o voce mai puternică în afacerile companiei. Era convins de necesitatea binelui angajaţilor săi şi, în consecinţă, a expus principiile beneficiilor unei zile de muncă de opt ore şi a impus scheme de compensaţie în caz de accident şi de ajutor social care au fost ulterior acceptate ca cerinţe statutare în India. Tata a fost de asemenea un susţinător al declaraţiei puterilor emergente ale primului-ministru Indira Gandhi, în 1975, şi a fost şi membru fondator al corpului guvernator al Consiliului Naţional de Cercetări de Economie Aplicată din New Delhi – primul institut de politică economică independentă din India, fondat în 1956. În 1968, a fondat serviciile de consultanţă Tata, iar în 1987 a pus bazele Titan Industries.
Tata a fost de asemenea administratorul fondului Sir Dorabji Tata de la lansarea acestuia, în 1932, pentru o perioadă de 50 de ani. Sub ghidarea lui, fondul a susţinut construirea primului spital destinat pacienţilor diagnosticaţi cu cancer din Asia, în Mumbai, în 1941, şi a fondat de asemenea Institutul Tata de Ştiinţe Sociale (TISS, 1936), Institutul Tata pentru Cercetări Fundamentale şi Centrul Naţional pentru Arte Performative.
J.R.D. Tata a murit în Geneva, Elveţia, pe 29 noiembrie 1993 din cauza unei infecţii la rinichi. La moartea lui, parlamentul indian a fost suspendat în memoria sa – onoare acordată de obicei doar membrilor parlamentului.