Põhimõttelised elemendid võrguhaldussüsteemis on järgmised:

• Võrguhalduskonsool
• Hallatavad seadmed koos agentidega
• Võrguhaldusprotokoll

Joonis 6‑3. Võrguhaldussüsteemi komponendid (Allikas: Learning Materials for Information Technology Professionals (EUCIP-Mat))

Võrguhaldusrakendusega seotud elemendid on:

• Võrguhalduskonsool
• Hallatavad seadmed ja nende agent

Võrguhalduskonsool on võrguhalduse arhitektuuri tähtsaim element. See on harilikult seotud tööjaamaga, millel on vajalikud liidesed võrguhalduseks ja haldussüsteemi mootor. Konsooli kaudu pääseb administraator juurde haldamissüsteemi infole, reaal-ajas võrguparameetritele ja seadmete konfiguratsiooniandmetele. koos agentidega varustatud seadmetega ja andmebaasiga ongi võrguhaldussüsteem, et saada ülevaate võrguseadmete seisukorrast

Joonis 6‑4. Võrguhalduskonsool (Allikas: Learning Materials for Information Technology Professionals (EUCIP-Mat))

Hallatavate seadmete hulka kuuluvad kõik aktiivsed võrguseadmed nagu tööjaamad, serverid, jagurid, lülitid, lüüsid ja marsruuterid. Need seadmed sisaldavad vastavat haldustarkvara moodulit ehk agenti, mis kogub jõudlus- ja tööinfot. Agendid salvestavad selle info MIB'is. Agendid, MIB ja konsool on võrguhaldussüstem. MIB on vastavalt defineeritud andmebaas, millesse kogutakse kokku agentidelt saabunud info. MIB info vahendamine võrguhaldussüsteemiga toimub läbi võrguhaldusprotokolli, näiteks SNMP (Simple Network ManagementProtoćol). Agendid, tuvastades probleemi seadmega, saadavad kohe häire haldusüksusele. Viimane aktiveerib selle peale ühe või rohkem tegevusi, näiteks saadab operaatorile teate, salvestab sündmuse, sulgeb süsteemi, proovib väljaselgitada vea põhjust automaatselt. Haldusüksus võib koguda ka täiendavat infot agentidelt kas automaatselt või operaatori vahendusel.

Võrguhaldussüsteemi arhitektuur võib olla kas jagatud (distributed) või tsentraliseeritud (centralised).
Tsentraliseeritud võrguhaldussüsteemi korral on kogu haldussüsteem koondunud ühte võrgualasse, milleks on sageli ettevõtte halduskeskus. Agendid jagatakse üle interneti ja need saadavad andmeid nagu ping ja SNMP päringute vastused kesksele haldusüksusele. Andmete saatmine võib toimuda kas eraldatud võrgumeediumi või töövõrgu kaudu.
Jagatud võrguhaldussüsteem tähendab, et võrguhaldusteenused ja agendid on jagatud üle interneti. Sel kujul saab kasutada hierarhilist haldust, mille puhul hierarhias allpool paiknevad võrguhaldussüsteemid saadavad andmeid tsentraliseeritud haldussüsteemidele. Sellisel juhul saab kasutada madalamal astmel andmete filtreerimist enne info edastamist tsentraalsele haldussüsteemile ja nii piirata võrguhalduse ülemäärast andmeliiklust üle interneti. Teine eelis jagatud süsteemides on, et andmekogumine jätkub ka siis kui süsteemi üksikud osad töötamast lakkavad. Puuduseks jagatud võrguhaldussüsteemi puhul on arhitektuuri ja haldamise keerukus.