Paul Langevin se distingue dès l'école primaire comme un élève extraordinairement doué. Il fait des études scientifiques de 1888 à 1893 à l'École municipale de physique et de chimie industrielles de la ville de Paris (ESPCI), dont il deviendra en 1925 le Directeur jusqu'en 1946. C'est sur les conseils de Pierre Curie, alors chef de travaux dans cette école, qu'il s'oriente vers la recherche et l’enseignement plutôt que vers une carrière d'ingénieur.

Quand Paul Langevin débute sa carrière scientifique en 1895, la physique est à un tournant de son histoire. L’œuvre de Langevin se situe dans cette période jusqu'en 1930 où va naître la physique moderne intégrant la théorie de la relativité et la théorie quantique. 

Ses premiers travaux, qui portent sur la nature microscopique du magnétisme et sa théorie, sont publiés en 1905.
En 1908, il propose une équation pour décrire la marche aléatoire des particules en suspension dans un liquide, que l'on appelle généralement « mouvement brownien ». 
Pendant la Première Guerre mondiale, il met au point, avec l'ingénieur Constantin Chilowski, l'Asdic, l'ancêtre du sonar, appareil destiné à détecter les sous-marins en utilisant la réflexion des ondes ultrasonores sur ces objets. Avant le début de la 2^e guerre mondiale, Langevin et son collaborateur effectuent les premiers travaux expérimentaux sur le radar qu'il nomme "Barrage Électromagnétique".

Ami des Curie, de Jean Perrin, physicien, et d'Émile Borel, Langevin est à l’origine des congrès Solvay qui réunissent à partir de 1911 tous les grands physiciens de l'époque.
Homme de gauche, militant pacifiste et antifasciste, il participe à la Société des Nations et se positionne nettement contre les armes chimiques et biologiques.

Président de la Ligue des droits de l'homme de 1944 à 1946, après en avoir été le vice-président à partir de 1927, il est ce que l'on appelle un compagnon de route du Parti communiste français.
Ses cendres ont été transférées au Panthéon de Paris en 1948.