虚拟机通常由两部分组成：主机和客体机。主机是虚拟机的宿主平台，即提供计算资源的硬件，如处理能力、内存、磁盘和网络I/O等。客体机是一个完全隔离和独立的操作系统和应用程序实例，可以看做是运行在主机虚拟机之上的工作负载，并且共享服务器计算资源。

　　虚拟平台，如VMware vSphere、Microsoft Hyper-V和Citrix XenServer，在主机和虚拟机之间安装一层抽象层——称之为虚拟机监控制（VMM：Virtual Machine Monitor）或者Hypervisor——可以隔离虚拟机，允许同一宿主平台上的多台虚拟机同时运行。该抽象层也制止了软件和底层硬件之间的直接交互关系，因此一台服务器承载多台客体机，并且要求客体机使用不同的操作系统和应用软件是有可能实现的。例如，在同一台物理主机上可以同时运行两台虚拟机，其中一台使用Windows操作系统，另外一台使用Linux操作系统。

　　唯一的要求是主机虚拟机（服务器）必须满足或者超过其所承载客体机（工作负载）的最小硬件要求。由于很多传统的非虚拟化服务器资源都严重浪费，一台主机可以为多台客体虚拟机提供足够的计算资源。但是随着在主机上不断地增加客体机，计算资源——如内存或者处理能力——就会被耗尽。这将会给虚拟机带来性能上的问题，或者是导致虚拟机崩溃——甚至是整个主机崩溃——继而导致大量同时运行的工作负载中断，从而导致影响到用户的生产能力。客体机通常是分布在若干台可用的主机上，从而更好地分散工作负载的计算需求。

　　尽管很多虚拟化都基于“隔离的客体机实例”的概念，但是有某些虚拟化技术并不创建隔离的实例。这些虚拟化技术是在同一个操作系统内创建隔离区域，例如一些操作系统虚拟化的概念，包括Solaris Zones、Parallels Virtuozzo、Linux-VServer、OpenVZ以及其它。“分区（zoned）”的方式优缺点并存：由于在主机上只安装一层操作系统（不存在迭代安装），所以效率非常高。然而每一个客体区必须运行支持操作系统的应用程序，否则就不能够使其中一台客体机运行Windows而另外一台运行Linux。进一步讲，操作系统的一个安全漏洞将会影响到所有的分区，但是完全隔离的客体虚拟机内的漏洞只危及一台客体机的安全。