光孝寺坐落在广州市区的光孝路北，是岭南年代最古老、规模最大的一座古刹，民谚有“未有羊城，先有光孝”之说。光孝寺也是古代中外高僧经常驻锡的佛教道场。是中印佛教文化交流的策源地之一。寺内有幅楹联写道：“禅教偏寰中兹为最初福地，祗园开岭表此为第一名山。”概括地说出了光孝寺在中国佛教史上的重要地位。
光孝寺的历史源远流长。公元有2世纪，南越王赵佗的玄孙越建德将宅居之地献出建寺。三国时，吴国贵族虞翻流放南海，居此讲学，时人称为“虞苑”，因苑中有少诃子树，又名诃林。虞翻死后，家人赠宅为寺，名“制止寺”，作为寺高的历史从这时开始。
东晋隆安元年(397)，昙摩耶舍法师航海到达广州，传播佛教，在这里创建佛殿，改名"王苑延寺"，又称"王园寺"。他是光孝寺住锡的第一位高僧。
南北朝时期，中天竺高僧求那跋陀罗(394-468)于刘宋元嘉十二年(435)经海到达广州，在这里创建戒坛，传授戒法。梁武帝天监元年(502)，印度高僧智药三藏法师带来菩提树种植在戒坛前，并预言，过170年后，当有肉身菩萨，在此树下开演佛法，度无量众。20多年后，即梁武帝普通八年(527)，印度佛教禅宗第二十八祖菩提达摩(？-536)航海到达广州，被笃信佛教的广州刺史萧昂请在王园寺，弘传禅法，名声益著。后达摩被梁武帝请到金陵，晤谈不契，又北上到少林寺，在那里面壁十年，独自修习禅定，被尊为中国禅宗的初祖。
唐朝贞观年间，王园寺重修殿宇，改名为"乾明法性寺"。高宗仪凤元年(676)，慧能来到法性寺。慧能以“菩提本无树，明镜亦非台。本来无一物，何处惹尘埃”一偈得到禅宗五祖弘忍的衣钵后，已在南方隐居多年。有一天，他来到法性寺，正遇上印宗法师讲解《涅盘经》，有两位僧人在辩论堂内的风幡为何飘动，一人说是风动，一人说是幡动。慧能道："不是风动，不是幡动，是仁者心动。"印宗大惊道："久闻黄梅五祖法衣南来，莫非就是行者？"慧能拿出衣钵给大家看。印宗与慧能研讨禅学，慧能诘论玄奥，言简理当。印宗十分欣喜。召集僧众在法性寺菩提树下为慧能剃发，请智光律师等为他授具足戒。后来慧能就在菩提树下为僧众开示禅门，讲说般若波罗蜜法。不久寺中住持法才和尚在掩埋慧能戒发之处修建了瘗发塔。此塔至今完好地屹立在寺内，高6.7米，四角七层，每层有八个佛龛，精美别致。那棵菩提树也生机勃勃地生长在大雄宝殿东北角，与六祖发塔相依并立。当年智药三藏来广州时带来两棵菩提树，一棵种光孝寺，一棵种台山灵湖寺，后分植一株于曲江南华寺。清嘉庆二年(1797)，光孝寺菩提树为台风所毁，便派人到南华寺取枝补种原处。这棵菩提树干四人合抱，树叶扶疏，高达数丈，荫覆数亩。国内外佛教徒前来朝拜，无不在此浓荫古树下良久徘徊，仿佛风幡犹动，胜会未阑。
宋代时，光孝寺曾改名为乾明禅院、崇宁万寿寺。有几年还曾改作道教宫观。宋高宗绍兴七年(1137)，下诏改称报恩广孝禅寺。绍兴二十一年，再改名光孝寺，一直沿用至今。
元明清时期，光孝寺在封建王朝的支持下，香火兴盛，寺庙规模扩大，殿堂雄伟，有十一殿：大雄宝殿、毗卢殿、西方三圣殿、观音殿、罗汉殿、六祖殿、伽蓝殿、韦驮殿、天王殿、悉达太子殿、轮藏殿；有六堂：戒堂、风幡堂、客堂、禅堂、檀越堂、十贤堂；有三楼：睡佛楼、钟楼、鼓楼。此外还有方丈室、库房、僧舍、笔授轩、延寿庵、兜率阁、虞翻祠等建筑，为岭南丛林之冠。据《光孝寺志》记载，兴盛之间，田产不下50余顷，常年食指万数，是南方最富有的寺庙。清朝末年，光孝寺逐渐走向衰落。
大雄宝殿是寺内的主体建筑。东晋隆安五年(401)由昙摩耶舍创建，唐代重修，清顺治十一年(1654)扩建为七开间，面宽35.36米，进深24.8米。虽历经修缮，但保持了唐宋寺庙建筑风格。宋代以来，殿正中供奉释迦牟尼佛、阿弥陀佛和弥勒佛像。50年代初在这三尊佛像肚内发现了一批雕刻精美的罗汉木像，是珍贵的唐宋木雕。
大雄宝殿两侧为东铁塔和西铁塔。东铁塔为五代时南汉大宝十年(967)铸造。七层四角，塔身高6.35米，每层刻满通体贴金的佛像、飞天等，故称"涂金千佛塔"。这是我国现存年代早、体积大、保存最完整的铁铸佛塔。西铁塔是南汉大宝六年（963）铸造，早于东铁塔4年，在清朝末年被倒塌的房屋压崩了四层，仅留三层，也是珍贵的文物。
在大雄宝展前，有一个“大悲幢”，建于唐宝历二年（862），高2米多，状如蘑菇，上有盖，中为柱，青石料，呈八角形，幢基座四周刻有威武的力士浮雕，形态生动。柱身八面刻有梵文和汉文楷书的大悲咒，是广东现存最古老的纪年经幢，有重要的文物和考古价值。
在大雄宝殿后是六祖殿。建于北宋大中祥符年间(1008-1016)，专为供奉六祖慧能而建立。现供奉着六祖坐像。殿东邻有碑廊，置六祖像碑等碑刻，是研究禅宗南宗的重要文物。
1988年农历七月初九至十五日，光孝寺举行了为期七天的祈祷世界和平、超荐水陆亡灵的水陆法会，这是解放后广州市佛教界第一次举行水陆法会。由本焕法师主持，港澳及广东省佛教界人士及佛教徒一千多人参加了法会。
