Die Aktualisierungen zielen darauf ab, die Bereitstellung, Verwaltung und Skalierung von KI mit 3CX in V20 U10 zu vereinfachen.

Mit der Veröffentlichung des eigenständigen 3CX AI Servers in V20 Update 10 zielen die bevorstehenden Änderungen in 3CX darauf ab, lokale KI für alle zugänglicher und einfacher zu installieren.

Komplexität reduzieren

Das kommende Update für 3CX AI Server vereinfacht folgende Aspekte:

  • Firewall-Konfiguration
  • Beschaffung von GPU-Hardware
  • FQDN- und SSL-Konfiguration des KI-Servers

Die größte Änderung betrifft das Verbindungsmodell

Die wichtigste bevorstehende Veränderung ist architektonischer und nicht kosmetischer Natur.

Die größte Änderung betrifft das Verbindungsmodell.

Kurz gesagt, der KI-Server verhält sich wie ein Client; er verbindet sich mit der Telefonanlage und nicht umgekehrt. Dies bietet mehrere Vorteile, darunter:

  • Kein SSL-Zertifikat erforderlich
  • Keine öffentliche FQDN-Anforderung
  • Keine manuelle Firewall-Konfiguration
  • Einfacherer Installationsprozess, weniger fehleranfällig

Diese Änderungen haben keinen Einfluss auf die Sicherheit des KI-Servers, da 3CX mehrere Sicherheitsebenen einsetzt, um Vertrauen zu gewährleisten.

macOS als KI-Server

Eines der nützlichsten kommenden Updates ist die macOS-Unterstützung. Vereinfacht gesagt: Sie können einen Mac Mini kaufen und ihn als KI-Server nutzen.

Das ist ein echter Durchbruch, denn Sie müssen keinen PC mehr selbst zusammenbauen, eine Grafikkarte auswählen und die Hardware konfigurieren. Die Mindestanforderung an den Arbeitsspeicher für den macOS-basierten KI-Server beträgt 24 GB.

Sauberere Namensgebung für lokale KI

Wir haben Local AI von „3CX Transcription Engine (Lokal installiert)“ in „3CX AI Server“ umbenannt. Der neue Name beschreibt die Funktion besser. Der Server transkribiert nicht nur Anrufe, sondern hostet auch mehrere KI-Modelle und führt zusätzliche KI-gestützte Analysen durch.

Sauberere Namensgebung für lokale KI

Status- und Überwachungsaktualisierungen

Mit der Hinzunahme der macOS-Implementierung und den architektonischen Änderungen werden wir auch die Status- und Überwachungsansichten für KI-Server aktualisieren.

KI Server Status

Aktive Transkription

Das Update zeigt das Serverbetriebssystem in einer vereinfachten Überwachungsansicht an. Unter macOS werden sowohl die GPU- als auch die Apple Neural Engine (ANE)-Auslastung angezeigt, während NVIDIA-basierte Systeme die RAM- und VRAM-Auslastung darstellen.

Durch die Überwachung nützlicher Servermetriken wie Warteschleife, Konvertierungen und maximale Konvertierungen können Administratoren schnell feststellen, ob ein KI-Server optimal funktioniert, ausgelastet, blockiert oder unterdimensioniert ist.

Mehrere Verbindungen

Mehrere Verbindungen

Die Flexibilität der neuen 3CX AI Server-Architektur geht über eine Einzelinstallation hinaus. Mit dem aktualisierten Verbindungsmodell können Sie:

  • Verbinden Sie mehrere KI-Server mit einer einzelnen Telefonanlage.
  • Geben Sie einen KI-Server für mehrere Telefonanlagen gemeinsam.
  • Erstellen Sie ein Netzwerk aus mehreren KI-Servern, die mehrere Telefonanlagen bedienen.

Dadurch wird sichergestellt, dass Ihre Bereitstellung an Ihre Arbeitslastanforderungen angepasst werden kann.

Ein KI-Server für alle

Das neue Update ermöglicht es einem einzigen KI-Server, mehrere Telefonanlagen zu bedienen. Anstatt für jede Telefonanlage einen eigenen KI-Server einzusetzen, können Sie nun mehrere Systeme an einen einzigen KI-Server anschließen.

Zum Beispiel:

  • Sie haben PBX A und PBX B.
  • An PBX A ist bereits ein KI-Server angeschlossen.
  • An PBX B ist kein KI-Server angeschlossen.

Gehen Sie zu PBX B, wählen Sie + KI Server hinzufügen, kopieren Sie den generierten Installationsbefehl und führen Sie ihn auf dem KI Server aus, der bereits mit PBX A verbunden ist.

Installation

Beide Telefonanlagen nutzen dann denselben 3CX AI Server für die Transkription.

Mehrere KI-Server für eine PBX

Die Beschränkung der Anzahl an KI-Servern, die an eine Telefonanlage angeschlossen werden können, wurde aufgehoben. In der Praxis hängt die Anzahl der anschließbaren Server nur noch von Ihrer verfügbaren Hardware, Netzwerkkapazität und Arbeitslast ab.

NVIDIA oder Apple

Der neue 3CX AI Server kann auf Systemen mit NVIDIA-GPUs oder Apple Macs eingesetzt werden.

Apple-Hardware senkt die Kosten für die Bereitstellung von Local AI deutlich, während NVIDIA-GPUs die höchste Rechenleistung bieten.

  • Für mittlere Arbeitslasten von 50.000 bis 200.000 monatlichen Transkriptionsminuten ist ein Mac Mini M4 mit 24 GB RAM eine kostengünstige Wahl.
  • Für Arbeitslasten bis zu ca. 500.000 monatlichen Transkriptionsminuten wird ein Mac Studio M4 Max mit 36 ​​GB RAM empfohlen.
  • Für Arbeitslasten über 500.000 monatlichen Transkriptionsminuten bietet ein System mit NVIDIA RTX 4090 die erforderliche Leistung.

Sie können auch mehrere KI-Server kombinieren, um das System zu erstellen, das Ihren Anforderungen am besten entspricht.

Neueste KI-Modelle

Diese Version enthält aktualisierte KI-Modelle und Backend-Verbesserungen, die die Verarbeitungsgeschwindigkeit erhöhen und gleichzeitig den Speicherverbrauch reduzieren, sodass Sie mehr aus Ihrer 3CX AI Server-Hardware herausholen können.

Folgen Sie uns für Neuigkeiten

Beteiligen Sie sich an der V20-Diskussion in unseren entsprechenden Partner– oder Kundenforen. Folgen Sie uns auf X und LinkedIn, um über Neuigkeiten und neue Funktionen auf dem Laufenden zu bleiben.