L’Olympiakós Le Pirée est créé en 1925. Le nom Olympiakos a été choisi par l'aviateur Notis Kamberos. L’Olympiakós a opté pour le rouge et le blanc comme couleurs officielles, le rouge symbolisant la passion et le blanc pour la pureté, l'un de leur surnom est Kokkini qui signifie les rouges.
L’Olympiakós Le Pirée évolue au stade Karaïskaki, qui s'est appelé stade Neo Phaliron Velodrome de 1895 à 1964. Ce stade peut accueillir 34 000 spectateurs, même si les adversaires ont l'impression de jouer devant 80 000 personnes, car les supporters grecs sont réputés pour leur sang chaud. Ce stade et ses supporters ont d'ailleurs fait couler beaucoup d'encre suite à la catastrophe qui s'est produite en 1981, une porte du stade qui est restée fermée à la fin du match a provoqué l'écrasement de vingt et un supporters, un hommage est rendu tous les ans aux 21 victimes. Le stade Karaïskaki a eu le droit à une rénovation complète pour accueillir les Jeux olympiques d'été de 2004.
Le gardien Antónios Nikopolídis est un des symboles du club, du fait de sa longévité à garder les cages du club, et peut être aussi grâce à sa ressemblance avec George Clooney. Rivaldo, Júlio César, Yaya Touré, Karembeu et Kovačević font parti également des joueurs emblématiques du club.
L’Olympiakós Le Pirée a un palmarès tellement étoffé que les grecs le surnomme Thrylos qui signifie Légende. Le palmarès du club se compose de 38 titres de Champions de Grèce et de 24 Coupes de Grèce.