提篮桥监狱南面的正门位于虹口区长阳路（原名华德路）147号，北面的围墙紧邻昆明路，西侧是舟山路，东面靠近保定路。四周多数是中下层市民聚居的民国初年建造的密集的石库门房屋，在第二次世界大战前后有许多犹太人在这一带避难，不远处的长阳路62号是一座保存完好的犹太会堂，舟山路上则有当年犹太人建造的店铺旧址。
上海提篮桥监狱，原是外国殖民主义侵略中国，侵犯中国司法主权的产物。这座监狱最早由上海公共租界工部局始建于清光绪二十七年(1901年)，由英国驻新加坡工程处设计中标，当年年底动工兴建，启用于光绪二十九年(1903年)5月。初建时，主要有两幢4层楼的监楼，囚室480间，以及炊场、办公楼、医务所等占地10亩左右。1916年起，陆续向北面和东西进行扩建，30年代初又拆除了部分初建时的建筑，进行了重建，直到1935年时基本定型(现存建筑物均为1917～1935年间所建造)。占地60．4亩，拥有10幢4～6层监楼，近4000间囚室，还有工场、医院、炊场、办公楼等建筑的大监狱，共有建筑面积7万多平方米。监狱四周有5米多高的围墙，内部除普通监室外，另建有“橡皮监”(防暴监房)、“风波亭”(禁闭室)、“室内刑场”(绞刑房)和室外刑场等特种设施。监狱主要关押对象是上海公共租界内判处徒刑的中国籍犯人(开始均收押男犯，从1904年起兼收女犯，1906年停止，1943年8月恢复收押女犯。从1935年9月起关押外国籍犯人)。由于它建筑精良，规模宏大，犯人收押数量多，最多达8000多人，大于印度的孟买监狱和日本的巢鸭监狱，因而号称“远东第一监狱”。
提篮桥监狱自启用以来，到1949年5月间，先后经上海公共租界工部局、日本人、汪伪政府和国民政府的管理。监狱最初称“上海公共租界工部局警务处监狱”，1942年1月，改名为“上海共同租界工部局华德路刑务所”。1943年8月，汪伪政府接管，改称“司法行政部直辖上海监狱”。抗战胜利后，国民政府接管，仍称“司法行政部直辖上海监狱”。俗称华德路监狱、提篮桥监狱、外国牢监和西牢等。抗战胜利后，提篮桥监狱先后关押过数百名日本战犯，内有日本驻台湾总督安藤利吉大将、日本驻香港总督田中久一中将、南京大屠杀的主犯谷寿夫中将、日本驻台湾第10军区军参谋长谏山春树中将等。1946年初盟军美国军队曾于在狱内设立军事法庭，审判过47名日本战犯。系抗战胜利后，在中国境内最早审判日本战犯的场所。为此，1997年8月经上海市人民政府批准，提篮桥监狱日本战犯关押、审判、执行处已列为“上海市抗日纪念地”，并立碑存史。
监狱初期主要由英国人统治，看守主要是印度人，是外国统治者监禁中国人的监狱。狱内民族歧视严重，等级森严。1930年前后始招收中国籍看守。监狱对犯人公开使用肉刑，体罚虐待，生活条件极差，犯人死亡率很高。1943年8月，汪伪政府接管监狱，开始由中国人管理，狱内各种司法文书表册由英文改为中文。当时全监4561名犯人中患有各种疾病的有1068人，当月死亡43人。翌年1月，监狱当局在日本人的指使下，抽调500余名犯人，去浙江嵊泗为日军修筑军事设施，由于劳役繁重和日军残酷虐待，犯人伤亡惨重，还有50多人双目失明。l947年11月，监狱当局克扣囚粮，犯人发生骚乱，此事曾轰动上海。
解放前，监狱曾囚禁过不少中国近、现代著名人物，其中有资产阶级民主革命家章太炎、邹容(1905年4月暴死狱中)。有中国共产党人任弼时(曾任中共政治局委员、中央书记处书记)、张爱萍(曾任国务院副总理、国防部部长)、曹荻秋(曾任上海市市长)、杨匏安(中共早期马列主义理论家)、许亚(曾任福建省副省长)、杨放之(曾任国务院副秘书长)、袁也烈(曾任水产部副部长，1955年授少将军衔)、刘鹤孔(曾任八机部副部长，1955年授少将军衔)、彭康(曾任交通大学校长、党委书记)、江上青(皖东北革命根据地创始人之一)、吴黎平(曾任化工部副部长)、徐君曼(曾任《中国青年报》秘书长)、李守宪（曾任中南民族学院党委书记）、陆维特（曾任厦门大学党委书记）、韩托夫(曾任暨南大学副校长)、阿英(著名作家)、周立波(曾任湖南省文联主席、著名作家)等(上述人员中，除章太炎、邹容外，大多未暴露真实身份，使用均为化名、假名)。王孝和于1948年9月30日就义于狱中。(目前在狱内建有“王孝和烈士就义处”，已列为上海市青少年教育基地)
抗战胜利后，日伪维新政府行政院院长梁鸿志、汪伪浙江省省长傅式悦、汪伪副总警监苏成德、上海“黄道会”头目常玉清等多名汉奸和曾任张作霖顾问的伊达顺之助、杭州日本宪兵队情报主任芝原平三郎、宁波日本宪兵队分队长大场金次等14日本战犯都枪决于监狱刑场。日本第三十四军参谋长镝木正隆少将等5名日本战犯于绞刑房执行绞刑。日本驻台湾总督安藤利吉陆军大将自杀于狱中(系中国境内自杀毙命的日军最高将领)。日本第六方面军司令官冈部直三郎陆军大将病死狱中(系中国境内因病死亡的日军最高将领)。
在中共上海警察局工作委员会(简称警委)的领导下，l944年，监狱看守人员中建立了中共地下党支部。赵英盛同志为支部书记，地下党从最初的3人，发展到上海解放前夕的20多人。上海解放前三天，监狱地下党支部夺取枪支，控制监狱。1949年5月28日，上海市军事管制委员会派员接管监狱。当时狱内有罪犯650人，其中“政治犯”(革命同志)50人，外国籍犯18人。同日，中国人民解放军进驻监狱，担任警戒看押任务。翌日，召开慰问与欢送“政治犯”恢复自由大会，欢送“政治犯”出狱。
监狱坚持贯彻“惩罚和改造相结合，教育和劳动相结合”的原则，对犯人进行形势、政策、前途教育。组织犯人看书读报，邀请专家、劳动模范、先进人物、被害人和犯人家属来监狱作报告，组织犯人外出参观，并加强考核管理，及时兑现政策，依法实施减刑、假释、监外执行，实行人道主义和文明管理，不打骂体罚，不侮辱犯人人格，给犯人吃饱、穿暖。监狱对盗窃犯、性犯罪、暴力犯、经济犯等不同类型的犯人还开展分类教育，分类改造，并在犯人中普及初中文化教育，多层次开办高中和大专班，参加市文化统一考试，合格者由教育局发给毕(结)业证书。组织犯人进行技术培训和职业培训，合格者发给技术等级证书。