در اغلب موارد، کار مجازی سازی را نرم افزار انجام می دهد. این نرم افزار لایه Hypervisor را به وجود آورده و ارتباط میان سخت افزار یا سیستم عامل را با این لایه وهر یک از ماشین های مجازی را طوری فراهم می نماید که راه اندازی سیستم عامل مجازی و اجرای برنامه های کاربردی بر روی سخت افزارهای متفاوتی که وجود فیزیکی ندارند را امکان پذیر می نماید.