根据服务器所提供的服务，一般来说服务器都具备承担响应服务请求、承担服务、保障服务的能力。服务器作为电子设备，其内部的结构十分的复杂，但与普通的计算机内部结构相差不大，如：cpu、硬盘、内存，系统、系统总线等。
根据体系结构不同，服务器可以分成两大重要的类别：IA架构服务器和RISC架构服务器。
这种分类标准的主要依据是两种服务器采用的处理器体系结构不同。RISC架构服务器采用的CPU是所谓的精简指令集的处理器，精简指令集CPU的主要特点是采用定长指令，使用流水线执行指令，这样一个指令的处理可以分成几个阶段，处理器设置不同的处理单元执行指令的不同阶段，比如指令处理如果分成三个阶段，当第N条指令处在第三个处理阶段时，第N+1条指令将处在第二个处理阶段，第N+2条指令将处在个处理阶段。这种指令的流水线处理方式使得CPU有并行处理指令的能力，这使处理器能够在单位时间内处理更多的指令。IA架构的服务器采用的是CISC体系结构，即复杂指令集体系结构，这种体系结构的特点是指令较长，指令的功能较强，单个指令可执行的功能较多，这样我们可以通过增加运算单元，使一个指令所执行的功能能够同时并行执行来提高运算能力。长时间以来两种体系结构一直在相互竞争中成长，都取得了快速的发展。IA架构的服务器采用了开放体系结构，因而有了大量的硬件和软件的支持者，在近年有了长足的发展。
根据服务器的规模不同可以将服务器分成工作组服务器、部门服务器和企业服务器。
这种分类方法是一种相对比较老的分类方法，主要是根据服务器应用环境的规模来分类，比如一个十台客户机左右的计算机网络环境适合使用工作组服务器，这种服务器往往采用1个处理器，较小的硬盘容量和不是很强的网络吞吐能力；一个几十台客户机的计算机网络适用部门级服务器，部门级服务器相对能力要强，往往采用2颗处理器，较大的内存和磁盘容量，磁盘I/O和网络I/O的能力也较强，这样这台服务器才能有足够的处理能力来受理客户端提出的服务需求；而企业级的服务器往往处于百台客户机以上的网络环境，为了承担对大量服务请求的响应，这种服务器往往采用4颗处理器、有大量的硬盘和内存，并且能够进一步扩展以满足更高的需求，同时由于要应付大量的访问，所以，这种服务器的网络速度和磁盘速度也应该很高。为达到这个要求，往往要采用多个网卡和多个硬盘并行处理。所有上述描述是很不的，存在很多特殊情况的，比如一个网络的客户机可能很多，但对服务器的访问可能很少，就没有必要要一台功能的企业级服务器，由于这些因素的存在，使得这种服务器的分类方法更倾向于定性，而不是定量，也就是说从小组级到部门级到企业级，服务器的性能是在逐渐加强的，其他各种特性也是在逐渐加强的。
、可扩展性
服务器必须具有一定的“可扩展性”，这是因为企业网络不可能长久不变，特别是在当今信息时代。如果服务器没有一定的可扩展性，当用户一增多就不能胜任的话，一台价值几万，甚至几十万的服务器在短时间内就要遭到淘汰，这是任何企业都无法承受的。为了保持可扩展性，通常需要在服务器上具备一定的可扩展空间和冗余件（如磁盘阵列架位、PCI和内存条插槽位等）。 [3]
可扩展性具体体现在硬盘是否可扩充，CPU是否可升级或扩展，系统是否支持WindowsNT、Linux或UNIX等多种可选主流操作系统等方面，只有这样才能保持前期投资为后期充分利用。