Sharma nació y creció en el seno de una familia malaya en Nueva Delhi, India. Su padre, Gokul Churai, es ingeniero de software de Thalassery, Kerala, y su madre, Shailaja Sharma, es economista de Palakkad, Kerala. Tiene un hermano menor, Sriharsh Sharma, que también ha actuado en dos películas, y una hermana menor, Dhruvatara Sharma. Asistió a la escuela secundaria Sardar Patel Vidyalaya, y posteriormente estudió en el St. Stephen’s College de la Universidad de Delhi. Sin experiencia previa como actor, se presentó a una audición junto con su hermano para el papel de Piscine Molitor «Pi» Patel en La vida de Pi (2012). Sharma pasó por varias rondas de audiciones antes de ganar el papel principal, superando a otros 3.000 jóvenes como Rajiv Surendra y Naren Weiss. El director Ang Lee ha declarado que seleccionó a Sharma principalmente por sus ojos expresivos y su aspecto inocente. Según él, Sharma no sólo tenía la emoción, sino también la «mirada» de Pi. Su «complexión media» y su «constitución media» se consideraron perfectas para el papel. La película fue aclamada por la crítica y ganó cuatro premios de la Academia; la actuación de Sharma recibió críticas positivas y fue nominado al premio BAFTA Rising Star.
Tras el rodaje de La vida de Pi, Sharma volvió a estudiar filosofía en el St. Stephen’s College, con la intención de seguir trabajando en el cine de alguna manera. Posteriormente, realizó un curso de comunicación de masas en la Universidad de Nueva York. En 2014, interpretó a Aayan Ibrahim, sobrino de un terrorista, en la cuarta temporada de la serie de suspense político de Showtime, Homeland. Ese mismo año, interpretó a Rinku Singh en el biopic deportivo Million Dollar Arm. Luego coprotagonizó con Tony Revolori la comedia-drama india Umrika, que se estrenó en el Festival de Cine de Sundance de 2015. En 2016, protagonizó el drama de aventuras mongol-estadounidense Burn Your Maps. También ha interpretado el papel de Kanan Gill en su primera aventura en Bollywood, la comedia romántica de Anshai Lal Phillauri coprotagonizada por Anushka Sharma y Diljit Dosanjh. De 2018 a 20, protagonizó el papel de Rakesh Singh en la serie de comedia-drama de la CBS God Friended Me.