Sharma est né et a été élevé dans une famille malaisienne à New Delhi, en Inde. Son père, Gokul Churai, est un ingénieur en logiciel de Thalassery, dans le Kerala, et sa mère, Shailaja Sharma, est une économiste de Palakkad, dans le Kerala. Il a un frère cadet, Sriharsh Sharma, qui a également joué dans deux films, et une sœur cadette, Dhruvatara Sharma. Il a fréquenté l’école secondaire Sardar Patel Vidyalaya, puis a étudié au St. Stephen’s College de l’université de Delhi. Sans expérience préalable de la comédie, il a auditionné avec son frère pour le rôle de Piscine Molitor « Pi » Patel dans Life of Pi (2012). Sharma a passé plusieurs tours d’auditions avant de remporter le rôle-titre, devançant 3 000 autres jeunes hommes, dont Rajiv Surendra et Naren Weiss. Le réalisateur Ang Lee a déclaré qu’il avait choisi Sharma principalement en raison de ses yeux expressifs et de son apparence innocente. Selon lui, Sharma avait non seulement l’émotion, mais aussi le « look » de Pi. Son « teint moyen » et sa « carrure moyenne » ont été jugés parfaits pour le rôle. Le film a été salué par la critique et a remporté quatre Oscars ; la performance de Sharma a reçu des critiques positives et il a été nommé pour le BAFTA Rising Star Award.
Après le tournage de Life of Pi, Sharma est retourné étudier la philosophie au St. Stephen’s College, avec l’intention de continuer à travailler dans le cinéma à un titre quelconque. Il a ensuite entrepris un cours de communication de masse à l’université de New York. En 2014, il a interprété Aayan Ibrahim, le neveu d’un terroriste, dans la saison 4 de la série à suspense politique Homeland de Showtime. La même année, il a interprété Rinku Singh dans le biopic sportif Million Dollar Arm. Il partage ensuite la vedette avec Tony Revolori dans la comédie dramatique indienne Umrika, dont la première a eu lieu au Festival du film de Sundance 2015. En 2016, il a joué dans le film dramatique d’aventure mongolo-américain Burn Your Maps. Il a également interprété le rôle de Kanan Gill dans sa première aventure à Bollywood, la comédie romantique Phillauri d’Anshai Lal, avec Anushka Sharma et Diljit Dosanjh. De 2018 à 20, il a joué le rôle de Rakesh Singh dans la série de comédie dramatique de CBS God Friended Me.