Löbe stammt aus ärmlichen Verhältnissen und erlernt das Schriftsetzerhandwerk. 1895 tritt er in die SPD ein. Ab 1900 übernimmt er in Breslau die Chefredaktion der „Volkswacht“, die unter seiner Führung zu einer populären sozialdemokratischen Zeitung wird. 15 Jahre lang gehört er dem Breslauer Stadtparlament und von 1915 bis 1920 dem Provinziallandtag von Schlesien an.

Als Mitglied der Nationalversammlung wird Löbe 1919 in den Fraktionsvorstand der SPD gewählt. Seit 1920 ist er Abgeordneter des Reichstags und bis 1932 Reichstagspräsident. Als überzeugter Demokrat engagiert sich Löbe bereits frühzeitig gegen die NS-Bewegung. Er wird Mitglied des Reichsausschusses des Reichsbanners und repräsentiert den Verband häufig in der Öffentlichkeit.

Im Juni 1933 wird er für wenige Tage Vorsitzender der SPD, kurze Zeit später ist seine Partei verboten. Einige Monate zuvor hat Löbe in einer bewegenden Rede die Zustimmung der SPD-Fraktion zum „Ermächtigungsgesetz“ Hitlers abgelehnt. Löbe wird Ende Juni 1933 festgenommen und bleibt bis Jahresende im Konzentrationslager Breslau-Dürrgoy und im Polizeigefängnis Berlin-Alexanderplatz in Haft. Seinen Lebensunterhalt kann er ab 1935 als Korrektor in einem Wissenschaftsverlag verdienen. Im Rahmen der „Aktion Gewitter“ im August 1944 erneut festgenommen, wird er für mehrere Monate im Konzentrationslager Groß-Rosen in Haft gehalten.

Nach Kriegsende engagiert sich Paul Löbe in Berlin beim Neuaufbau der SPD. Im Parlamentarischen Rat arbeitet er bei der Ausarbeitung des Grundgesetzes mit und gehört bis 1953 dem Deutschen Bundestag an.