1904年5月正式宣判以后，章太炎与邹容被移送到位于提篮桥的上海西牢关押。“外间往访者，限监狱管理法，率摈不得入。”章太炎与狱外联系受到了妨碍，然而，他仍然千方百计地将他的意见告知狱外同志。6月19日，中国教育会举行纪念会，会后，蔡元培等到狱中探望，告知章太炎。《警钟日报》有《五月六日纪念会后存太炎于理立谈时许，最其意以为隐语》一诗，便记述了章太炎的谈话内容。诗云：
玄览于今总涤除，秕糠犹有九言书。
众窍为虚风济矣，致柔专气能婴初。
舍法宁论法已非， 存平蓬艾亦支离。
自从法我生莹听，采色充阳已横驰。
九言书，典出《左传》定公四年(公元前506年)，子太叔在黄父之会上曾对赵简子提出九项希望：“无始乱，无怙富，无恃宠，无违同，无敖礼，无骄能，无复乱，无谋非德，无犯非义。”据第一首诗，章太炎交谈中引述这一典故，显然正是为了再次强调荡涤旧思想和通过革命宣传向人们灌输新思想的必要。据第二首诗，章太炎在谈话中环顾革命思想发展的大势，显然对形势充满了信心。这些谈话，对狱外的同志无疑是一个很大的鼓舞。
以后，蔡元培“恒每月入狱存问章、邹二人”，章太炎继续随时与蔡元培讨论推进革命发展的问题。这时，对章太炎十分崇敬的军国民教育会成员龚宝铨在上海与蔡元培、章士钊、何海樵、陈独秀等组织了秘密的暗杀团，在东京成立的浙学会重要成员陶成章和原爱国学社成员敖嘉熊在广泛地联络了浙江各地会党以后，也返回上海。章太炎了解到这些情况后，便“致书元培等策动之”，推动争存会主要骨干、暗杀团成员和陶成章等浙学会成员等联合组成光复会。
光复会是在章太炎的直接推动下建立的。会以“光复”为名，就体现了章太炎一贯的主张：“同族相代，谓之革命；异族攘窃，谓之灭亡；改制同族，谓之革命；驱逐异族，谓之光复。今中国既灭亡于逆胡，所当谋者光复也，非革命云尔。”光复会成立时，因章太炎在狱中，蔡元培被推为会长，但是，这并不妨碍章太炎成为光复会的一位实际上的思想指导者与首领。所以，章太炎本人在回忆光复会的建立时，强调说：“光复会初立，实余与蔡元培为之尸，陶成章、李燮和继之。”
光复会在上海的联络站起初设在新闸路仁和里，后移到四马路益智楼上浙江旅沪学会内，继又迁至三马路宝安里。光复会是继兴中会、华兴会而出现的又一个革命团体，它活动的主要范围是浙江、安徽、江苏等地，与兴中会、华兴会鼎足而三。光复会的成立，标志着中国社会经济和思想文化最发展的江浙地区革命力量终于集结起来，并将他们工作的重点从革命宣传转向实际的组织和发动下层民众的武装斗争。
就在章太炎深切关注着狱外斗争发展的时候，他的革命意志又受到了狱内艰苦生活的严峻考验。
刚转入西牢时，章太炎与邹容共居一室。“室方广平均约一丈二尺，中置一几，几旁列藤椅两具，几上满置书籍及笔墨等物。室之两端，置卧榻二，榻上枕衾咸备，室之一隅，更杂置书籍。……室颇洁静，光线亦充足，无炎歊气，俨然清凉世界，于卫生上颇相宜。”然而，这只是租界当局在众目睽睽之下，摆出的一时姿态。章太炎与邹容刚从舆论所注目的中心地位上消失，酷虐的迫害就紧逼而来了。
章太炎与邹容首先被指令从事苦役，敲碎石子。两个书生，骤然从事如是沉重的劳动，感到难以忍受，狱卒又任意凌辱虐待，他们更觉得不能容忍。章太炎决定以一死表示抗议。他对邹容说：“尔我体皆弱，又不忍辱，与为白人陵藉而死也，毋宁早自为计。然以禁锢期限计之，我三年，尔二年，尔当生，我当死！”邹容哽咽流涕答称：“兄死，余不得不死。”章太炎立即劝慰说：“不闻子胥兄弟事耶？且白人内相凌逼，而外犹恶其名，余死，彼惧烦言之不解也，必宽假尔。”因此，章太炎开始绝食。他作了绝命词三首，前二首系与邹容联句，第三首由他一人续成，表现了不畏牺牲的英雄气概。
其一：
击石何须博浪椎？(邹)群儿甘自作湘累。
要离祠墓今何在？(章)愿借先生土一抔。(邹)
其二：
平生御寇御风志，(邹)近死之心不复阳。(章)
愿力能生千猛士，(邹)补牢未必恨亡羊。(章)
其三：
句东前辈张玄箸，天盖遗民吕晦公。
兵解神仙儒发冢，我来地水火风空。
章太炎绝食时，被关进了铁槛。结果，断食七日未死。复食后，他对邹容说：“食亦死。知必死，吾有处之之道。”自是以后，每逢狱卒前来陵轹，他便以拳回报，甚至夺下狱卒手上的凶器。章太炎“以是遭狱卒踶趹二次。印度人尤暴横，每举足不择腰膂腹背。既仆地，则数狱卒围而击之，或持椎捣其胸间，至闷绝，乃牵入铁槛中”。
西牢中还有一种酷刑，“其法以帆布为梏，反接两手缚之，加以木楔，名曰软梏。梏一小时许，则血管麻木，两臂如针刺状，虽巨盗弗能胜。号呼宛转，声彻全狱，其虐较拶指为甚”。章太炎曾受梏三次。
所有这些，对章太炎的献身革命精神，既是严厉的考验，又是无情的磨炼。狱中生活，使他对西方文明的另外一面，即对革命人民实行专制统治的那一面，有了切身感受。“今西人所设狱，外观甚洁清，而食不足以充腹，且无盐豉；衣又至单寒，卧不得安眠，闻铃即起。囚人相对，不得发一言，言即被棒。此直地狱耳。”就在这样“文明”的监狱中，五百囚人，一岁被虐待至死者一百六十余人。这一切，不能不使章太炎感到愤懑。
在狱中，通过与其他狱囚的接触，章太炎还增加了对中国下层社会的了解。与他同狱的一个难友，后来曾回忆说：“乃公谦抑为怀，竟一见如故，殷殷折节下交，且谆谆以革命相勖。”对于识字无多的同伴，他还“日令识字若干，亲为讲解”，以至于彼此之间“起居互顾，衣食相推，疾病相扶持，悲愤相慰藉”。这种相处，使章太炎对于他原先很少接触的城市下层民众的生活、思想、道德水准，特别是与会党有关系的那些社会阶层的状况，逐步熟悉起来。在这个意义上，可以说，监狱成了他了解社会的一个课堂。
由于章太炎倔犟抗争，加上中国教育会与光复会友人在狱外多方疏解，章太炎与邹容由苦役改事裁缝役作，并获准可在役作之余阅读一些书籍。先前，在巡捕房时，章太炎曾经索读过一些佛典，这时，乃专读《瑜伽师地论》、《因明入正理论》、《成唯识论》等唯识法相学的经典著作，并努力使它们与自己在社会学方面的研究相贯通。《警钟日报》曾报道他在狱中的谈话，引用他的话说：“每日作工外，辄与邹子研究佛学、社会学。惟狱中此类书甚少。前月外间送来数十卷，大都浅薄无味，不足供我研究。”
“飒飒飞霜点铁衣，音容憔悴须发肥。稔君狱读《瑜伽论》，还与《訄书》理合非？”这是黄宗仰寄太炎的诗句。确实，狱中研读佛典，使章太炎学术思想和他撰著《訄书》时相比，有了重大转变。章太炎回顾自己学术思想演变过程时说过：“三十岁顷，与宋平子交，平子劝读佛书，始观《涅槃》、《维摩诘》、《起信论》、《华严》、《法华》诸书，渐及玄门，而未有所专精也。”“及囚系上海，三岁不觌，专修慈氏、世亲之书。此一术也，以分析名相始，以排遣名相终，从入之途，与平生朴学相似，易于契机。解此以还，乃达大乘深趣。”人们思想的发展离不开一定的先行思想资料。先前，章太炎主要从中国古代史籍、先秦诸子著作和他所接触到的一些中日文西学书籍中寻求可以凭借的思想资料。丰富的社会实践和大量新的思想理论问题，要求一种更缜密的理论思维方法。唯识法相学经典中的哲学素材，之所以投章太炎所好，一是因为章太炎发现其中包含有相当丰富的思辨内容，二是因为章太炎觉得，作为一种思想资料，它比较容易掌握，不像甚少系统介绍的欧洲近代思辨哲学那么难于索解。1905年2月在上海创刊的《国粹学报》，于4月出版的第三号上择要刊登了一篇《章太炎读佛典杂记》，专门讨论“天下无纯粹之自由，亦无纯粹之不自由”及“自利性与社会性”的关系问题，便说明了章太炎研治佛典，正是为了借助于一种较为发达的理论思维方法来解决较为复杂的思想理论问题。
在狱中，章太炎与邹容朝夕相处，患难与共。他们一道服劳役，一道切磋学问，共同讨论革命问题，互相关心，互相激励，关系日深。1905年3月，邹容突然病倒，“体温温不大热，但欲寐，又懊恼烦冤不得卧，夜半独语骂人，比旦皆不省”。章太炎于医道相当精深，“则告狱卒长，请自为持脉疏汤药，弗许；请召日本医，弗许”。结果，邹容病势日益沉重。这时，西牢狱医借口要代邹容请求假释就医，把邹容移到另外一室。不料当天夜里，即4月3日夜半，邹容即暴卒于狱中。“诘朝，日加已，炳麟往抚其尸，目不瞑。内外哗言西医受贿，下毒药杀之，疑不能明。”
邹容在刑期将满、出狱在即的时刻不明不白地死去，引起了广大革命志士和进步舆论界对章太炎命运的深切关注。邹容去世后，4月5日，中国教育会成员五十余人在上海愚园公开举行了追悼会；革命报刊上发表了大批追悼邹容的祭文、诗词，揭露邹容惨死的景象，声讨租界当局的暴行。这些都是对中外反动势力的抗议与示威。后来以暗杀出洋考察五大臣而著称于世的吴樾，这时“急驰书与章炳麟，戒其慎防”。光复会重要首领徐锡麟听说清朝政府欲行贿狱卒，将章太炎毒毙于狱中，立即奋然从日本回国，“为奔走调护”。许多革命报刊都刊登了思念章太炎、关心他狱中生活的诗文。租界当局担心引起更大的风潮，不得不稍许改善章太炎的待遇，改派他“任执爨之役，因得恣意啖食”。因此，章太炎曾十分感慨地说：“余之生，威之死为之也。”
1906年6月29日，章太炎三年监禁期满。这天一早，蔡元培、于右任、朱少屏、柳亚子、刘道一、张默君、熊克武、但懋辛、刘光汉等人和同盟会总部从东京派来上海迎接章太炎的代表龚练百、仇式匡、邓家彦等人，分乘马车数辆，直驰四马路工部局巡捕房门前迎候。上午10时许，章太炎获释出狱，受到了他们的热烈欢迎，被簇拥着上了马车，行抵中国公学休息。这天，香港等处来电致贺者有十余起之多。在中国公学，同盟会总部的代表们向章太炎转述了迎邀之意，章太炎答复说：“孙逸仙与吾辈同气，允宜合作。入同盟会与否，俟抵东京定夺可也。至于主撰《民报》，亦俟他日斟酌，何如？”当天晚上，他就在同盟会总部代表们的陪同下，登上日本客轮，离沪赴横滨，转赴东京。
章太炎出狱，实际上，是革命者一次胜利的凯旋。在狱中，他坚贞不屈，“在这艰难困苦的盘涡里头，并没有一丝一毫的懊悔”，表现了可贵的革命气节，人们也确实是把他当做一位胜利了的英雄来加以欢迎的。现在，新的战斗在召唤，他将以自己的聪明才智更积极地投入到那已十倍百倍壮大了的革命洪流中去。
