采购部门的建立，就是将采购部门应负责的各项功能整合起来，并以分工方式建立不同的部门来加以执行。在规模较大的采购组织中是按照其职能来建立部门的。
不过，在一般的中小型规模的采购组织中，通常缺乏稽查、管理、研究的功能，或因这三种功能并不明显就没有分别设置部门，至多将其部分功能合并为管理科或并入采购科里。一般来说，采购组织主要有以下几种建立方式。
1.按物品类别分类
按物品的类别将采购部门划分为不同的采购小组，每一小组承担某一物品采购的计划制定、询价、招标、比价、签订合同、货款结算等一系列采购业务，这种采购部门的建立方式，可使采购人员对其经办的项目非常专业，比较能够发挥“熟能生巧”以及“触类旁通”的效果，也是最常用的采购部门建立方式，对于物品种类繁多的企业与机构最为适合。
2.按采购地区分类
企业采购的货源来自不同的地区。按照采购地区的不同，分别设立部门。此种分工方式，主要是基于国内、国外采购的手续及交易对象有显著的差异，因而对于采购人员的工作条件亦有不同的要求。
由于国内、国外采购作业方式的不同，因此分别设立采购部门有利于管理。同时上级主管部门必须就所购买的物品比较国内、国外采购的优劣，判定采购事务应交给哪个部门承办，才能事半功倍。
3.按采购价值或重要性分类
为加强对物品的管理，一般将采购的对象按其价值和品种分为A、B、C三类，A类物品采购次数少、物品价值高，属重要物品，其采购质量如何将直接影响到企业经营的风险和成本，一般应由采购部门主管负责。而将采购次数繁多，但价值不高的B、C类物品，交给基层采购人员负责。
4.按采购过程分类
按照采购业务过程，将采购计划的制定、询价、比价、签订合同、催货、提货、货款结算等工作交给不同人员办理。这种组织形式要求部门内各成员密切配合，适合采购量大、采购物品品种较少、作业过程复杂，交货期长以及采购人员众多的企业采用。
5.混合式的编组
不同企业有不同的特点，在许多稍微具有规模的企业或机构中，通常会兼有以物品、地区、价值、业务等为基础来建立采购部门的内部组织，可以形成不同的混合式组织形式。