Voor de negentiende eeuw was De Pijp een dun bebouwde polder. In het gebied stonden herbergen, molens (onder meer waar nu de Gerard Doustraat en de Albert Cuijpstraat zijn), polderhuisjes en wat buitenverblijven. Door de Industriële Revolutie in de negentiende eeuw groeide de bevolking van Amsterdam hard en een flinke stadsuitbreiding werd noodzakelijk. Er werd snel een nieuwe wijk gebouwd die officieel YY genoemd werd (ook wel plan Niftrik / Binnendijksche Buitenveldertse Polder), maar in de volksmond al snel De Pijp, waarschijnlijk naar de lange, smalle sloten in het voormalig poldergebied. De wijk wordt begrensd door de Amstel en de Boerenwetering en door de Singelgracht en het Amstelkanaal. De bouw van de wijk leidde tot een conflict met de gemeente Nieuwer Amstel. Rond 1890 had de gemeente dit hele gebied, tot aan de gemeentegrens die ter hoogte van de Van Ostadestraat liep, volgebouwd. De gemeente wilde het gebied van Nieuwe Amstel annexeren om nog verder te kunnen bouwen. De gemeente Nieuwer Amstel ging het noordelijk gebied van deze gemeente, het stuk wat dus grensde aan Amsterdam, ontwikkelen en liet juist daar een nieuw gemeentehuis bouwen naar ontwerp van Roelof Kuipers. Dit gemeentehuis werd op 22 april 1892 geopend maar Nieuwer Amstel werd een week later geannexeerd en op 1 mei kon het gemeentehuis dus gesloten worden.
De gemeente Amsterdam kon verder met het bouwen en bouwde snel het gebied tot aan de Lutmastraat vol. Het gemeentehuis van Nieuwer Amstel is jaren gebruikt als het gemeentearchief van Amsterdam, totdat dit archief verhuisde naar de Vijzelstraat. Binnenkort wordt het gebied rond het voormalige archief verder ontwikkeld en in het voormalige gemeentehuis komt een hotel (mei 2009).
De nieuwe wijk werd populair onder studenten, maar ook de prostitutie tierde er welig.
In de jaren 60 van de 20e eeuw kwamen de eerste buitenlanders in de wijk wonen. In eerste instantie waren dit Spaanse gastarbeiders die werkten in de Heineken-brouwerij aan de Stadhouderskade. Na een tijdje lieten zij hun gezinnen overkomen.
De laatste jaren gentrificeerd de wijk in hoog tempo. Onder invloed van de hoge huizenprijzen in het centrum stijgen de prijzen in deze wijk ook flink en de hogere inkomensklasse heeft deze wijk gevonden. De wijk is mede populair door de trendy restaurants en cafés.
De groeiende Amsterdamse bevolking betrof natuurlijk ook de groeiende Joods Amsterdamse bevolking en ook Joodse gezinnen trokken naar deze nieuwe wijk. De synagoge aan de Gerard Doustraat is daar een duidelijk spoor van. Verder werd de diamantslijperij van Asscher in De Pijp gebouwd en het deel van De Pijp om deze diamantslijperij wordt de Diamantbuurt genoemd. Veel Joden trokken naar deze wijk toe.
De Albert Cuypmarkt had een groot aantal Joodse marktkooplieden. Na de oorlog is deze markt het Joodse karakter kwijtgeraakt.
Bekende bewoners
Bekende bewoners van deze buurt zijn/waren: André Hazes, Piet Bakker, Emanuel Boekman, Piet Mondriaan, Willem Kloos, Frederik van Eeden, Frans Erens, Herman Gorter, Simon Vinkenoog, Carel Willink en Zekeriya Gümüs.