Les conditions d'une scission sont réunies : le congrès voit l'opposition entre une réaffirmation de la tradition socialiste française (démocratie interne et respect du suffrage universel), telle que l'avait établie Jaurès (discours de Blum) et une volonté révolutionnaire (adhésion à la IIIe internationale et acceptation du "modèle" bolchévique). Les trois-quarts des congressistes acceptent les 21 conditions. Ils quittent la SFIO pour créer le Parti communiste français (SFIC-PCF).

Cette fracture entre communistes et socialistes se retrouve sur le terrain syndical avec la cassure entre la CGT (proche de la SFIO) et la CGT-U (dite "unitaire", liée au PCF).

Pour tous ceux qui avaient décidé de garder la "Vieille Maison", la tâche était difficile ; 20 000 adhérents seulement étaient restés (parmi eux de nombreux élus et des cadres fédéraux). Sous la houlette de Léon Blum et de Paul Faure, la SFIO devient en quelques années la première force de la gauche. Son alliance avec les radicaux permet l'élection d'une majorité de gauche à l'assemblée : le cartel des gauches (1924-1926). La SFIO pratique alors pour la première fois le "soutien sans participation" au gouvernement. Jusqu'au Front populaire, la SFIO est un parti ni purement réformiste ni réellement révolutionnaire (cf analyse de Léon Blum sur la distinction entre "conquête du pouvoir" révolutionnaire et "exercice du pouvoir" temporaire).

Les années trente

En 1933, s'ouvre une crise interne au sein de la SFIO qui débouche sur une scission en novembre. Les néo-socialistes (Déat, Marquet) quittent le parti mais ils sont discrédités en raison de leur complaisance envers le modèle fasciste. En contrecoup, on assiste à un gauchissement du parti et l'affirmation de deux tendances de gauche, l'une autour de Zyromski, et l'autre avec Marceau Pivert.

L'offensive de la droite et la menace fasciste, à partir du 6 février 1934, ouvrent les voies à un mouvement populaire d'ampleur, et bientôt, avec le changement d'orientation décidé par l'Internationale communiste, à l'unité d'action avec le PCF.