Die Bezeichnung Gateway für die Netzübergänge ist passend gewählt, denn der englische Begriff bedeutet wörtlich übersetzt Torweg. Ein Gateway eröffnet einen Weg in eine andere Welt, die in der elektronischen Kommunikation in Form eines anderen Netzes daher kommt. Dabei hat der Voice over IP Gateway die Aufgabe, die Signale in eine Form umzuwandeln, die auf Grund ihrer universellen Verwendung sicher stellt, dass die digitalen Daten beim jeweiligen Empfänger möglichst schnell und vollständig ankommen. Umgekehrt nimmt der Voice over IP Gateway eintreffende Daten entgegen und wandelt sie so um, dass sie von den verschiedenen Endgeräten und Anwendungen weiter verarbeitet werden können. Weil der Gateway auf einer speziellen Software beruht, wird er in der Praxis häufig auch als Softswitch bezeichnet.
Die Bezeichnung Softswitch bezieht sich hier allerdings nur auf den Teil des Voice over IP Gateway, der für die Signalisierung verantwortlich ist. Er bildet den Übergabepunkt zwischen dem Datennetz, bei Voice over IP ein lokales Netzwerk oder das Internet, und dem eigentlichen Sprachnetz. Seine Arbeitsgrundlage ist das Signalisierungssystem SS7. Darin ist eine Reihe von Protokollen zusammen gefasst, die für den Verbindungsaufbau und die Beendigung der Verbindung notwendig sind. Auch einige zusätzliche Funktionen können hier je nach Angebot des jeweiligen Providers integriert sein. Das Signalisierungssystem Nummer 7 arbeitet auf einem eigenen Kanal, in dem die Informationen im Vollduplexverfahren übermittelt werden können. Eines der verwendeten Protokolle ist MTP alias Massage Transfer Parts. Dieses Protokoll ist für die Aushandlung des Wie der Übertragung von Daten zuständig. TCAP dagegen ist für die Steuerung der Zusammenarbeit anderer Protokolle verantwortlich, während OMAP administrative Aufgaben in der Kommunikation zwischen verschiedenen Netzwerken unterstützt.
Neben dem Softswitch muss ein Voice over IP Gateway einen so genannten Media Gateway Controller besitzen. Er erteilt die Befehle, deren Ausführung notwendig ist, um Sprache in digitaler Form von einem Netz ans andere übertragen zu können. Dabei werden in der Praxis derzeit drei verschiedene Steuerprotokolle verwendet. Das wichtigste Protokoll dabei ist SIP, das sitzungsinitiierte Protokoll, das in der Empfehlung RFC 3261 konkretisiert worden ist. Es ist für den Aufbau, das Halten und den Abbau der jeweiligen Verbindung zuständig. Daneben kommt das Protokoll H.323 zur Anwendung. H.323 wurde von der Internationalen Fernmeldeunion standardisiert, was den Vorteil hat, dass es weltweit verbreitet ist. Es gehört zu den ersten Standards, die für das Voice over IP Gateway entwickelt wurden und die neben der reinen Telefonie auch die Übertragung von Videodaten ermöglichen.
Ein fester Bestandteil von Voice Over IP Gateway kann auch Megaco sein. Megacu wurde von der Internationalen Fernmeldeunion in der Empfehlung H.248 definiert und ist punktgenau auf die Bedürfnisse der Internettelefonie ausgerichtet worden. Es benötigt kein SIP, sondern nutzt SCTP. SCTP steht für Stream Control Transmission Protocol. SCTP arbeitet nicht sitzungsabhängig, sondern verbindungsabhängig. Hier wird Wert auf eine möglichst schnelle Übertragung der Daten gelegt, bei der auch kleinere Verluste billigend in Kauf genommen werden können, wie das bei Voice over IP durchaus ohne größere Einschränkungen der Qualität möglich ist. Dieses Transportprotokoll ist in der vierten Schicht des OSI Modells angesiedelt und nutzt sowohl das Multihorning als auch das Multistreaming, bei die Übertragung der Daten mit mehreren Dringlichkeiten möglich ist.