随着历史的发展，印度的部派佛教发展到后来，出现了大乘佛教和小乘佛教。大乘佛教形成于何时，很难确定。近代学者一般都认为大乘佛教是从大乘经出现开始的。有些学者推定大乘经的出现时间约在公元1世纪，所以一般也认为大乘佛教是在公元1世纪左右形成的。
所谓“乘”是梵文yana(音译“衍那”)的意译。有“乘载”或“道路”之意。大约在公元1世纪左右，在印度佛教内形成了一些具有新的学说教义思想的派别。这些派别自称他们能普渡众生，就好像一个无比巨大的船，能运载无量众生从生死彼岸到达涅磐解脱的彼岸，成就佛果，所以自称是“大乘”。而把原来的原始佛教和小部派佛教贬称为“小乘”，但是这一称呼，“小乘”佛教派别本身是不承认的。
大乘和小乘的区别，表现在许多方面。首先，在对于释迦牟尼佛的看法上，小乘教一般把他看作是一个教主、导师，是一个完全达到觉悟的人。大乘佛教则将其看作是一个威力广大、法力无边、全智全能的神，并且认为除释遨牟尼外，在三世(过去、现在、未来)十方(东南西北、四维上下)有无数的佛。其次，在修持方法方面、小乘主张修戒、定、慧“三学”(通过持守戒律、修习禅定而获得智慧)。大乘则偏重于修习“六度”、‘旧摄”的“菩萨行”。菩萨的思想是大乘佛教思想的一大特色。
所谓菩萨，即指抱着广大志愿，要救渡一切众生脱离苦海，从而得到彻底觉悟的人。大乘教徒把释迦牟尼佛以前的菩萨阶段，作为自己修行的榜样，因此大乘佛教徒主张在家修行，并不强调一定要象小乘那样出家，这也是大乘和小乘的重要区别之一。大乘教徒把菩萨的修行方法概括为“六度”、“四摄”。“六度”是指布施、持戒、忍辱、精进、禅定、智慧，他们认为这六种方法是能够脱离生死苦海，达到涅磐彼岸的通道。“四摄”是指布施、受语、利行、同事，四种在大众中进行共同生活和活动的方式，这是菩萨救渡众生时所采取的方法和条件。为了与小乘教相区别，大乘教徒把自己的思想学说称之为菩萨思想，把自己的修行实践称作“菩萨行”，把自己所遵奉的戒律称之为“菩萨戒”，后来甚至于把所有的信奉大乘思想的居士均称为“菩萨”。因此大乘思想实际上就是菩萨思想。在教义学说上，大小乘之间的重要区别是:小乘佛教主张人空法有，即否定人的精神主体，但对客观世界的否定却不彻底，部分派别则通过“分析”的方法否定客观事物，实际上却承认事物的基本组成因素“级微”的存在，从而带有唯物思想倾向;大乘则主张人法两空，既否定人的主观精神主体，也否定客观事物的存在，他们认为客观事物的“空”并不是通过“分析”方法得到的，而是缘起性空，即一切法都是因缘和合而成，所以没有实体，是“空”。事物的现象只不过是一种虚幻的假象而已。“性空幻有”，这是大乘思想，特别是早期大乘思想的一个重要特点。另外，在修行目标上，小乘追求个人解脱，把“灰身灭智”，证得阿罗汉来作为最高目标。大乘则宣称以普渡众生为宗旨，以成佛作为最高的修行目标。
总之，大乘佛教思想是小乘佛教思想的进一步发展，大乘思想中，许多地方吸收了小乘部派佛教的各种学说，但两者在修行方式、修行目的和佛陀观等方面有许多不同看法。