Beginnen Sie mit Ihrer aktuellen Transkriptionslast, planen Sie Spitzen und Wachstum ein und erweitern Sie die Kapazität bei steigender Nachfrage.

Sie können einen 3CX AI Server für Ihren heutigen Bedarf dimensionieren und bei zunehmender Auslastung Kapazität hinzufügen. Sie müssen also nicht von Anfang an sämtliche zukünftigen Anforderungen abdecken.

Denn Ihr erster AI Server muss nicht der einzige bleiben, und nicht jede PBX benötigt einen eigenen. Eine PBX kann einen oder mehrere AI Server nutzen, und mehrere PBXs können sich einen Server oder einen Serverpool teilen.

Ein Partner kann beispielsweise KI-Ressourcen über mehrere Kunden hinweg gemeinsam nutzen und so besser auslasten. Zusätzliche Server schaffen dann Kapazität für Wachstum und Ausfallsicherheit. Dieselbe Flexibilität kommt Unternehmen mit einer großen PBX oder mehreren Systemen zugute.

Unabhängig von der Bereitstellung bleibt die Dimensionierung gleich: Berechnen Sie die zu verarbeitenden Aufzeichnungen, planen Sie einen Puffer für kurzfristiges Wachstum ein, prüfen Sie die Kapazität für die geschäftigsten Zeiten und erweitern Sie sie bei Bedarf. Die Verbindungsoptionen werden in 3CX AI Server Upcoming Updates erläutert.

Berechnen Sie die tatsächlich benötigte Verarbeitungslast

Berechnen Sie die tatsächlich benötigte Verarbeitungslast

Beispielhafte Zeitleiste: Ein Transkribierer (AI Server) verarbeitet zunächst die Ausgangslast. Sobald 80 % seiner Kapazität erreicht sind, wird ein zweiter hinzugefügt. Dadurch entsteht Spielraum für eine weitere PBX im gemeinsamen Pool.

Dimensionieren Sie Ihren AI Server anhand der Aufzeichnungs- und Voicemail-Minuten, die tatsächlich zur Transkription gesendet werden, nicht anhand des gesamten Telefonverkehrs.

Nur diese Minuten beanspruchen die Kapazität des AI Servers. Die zulässige Verarbeitungszeit bestimmt den erforderlichen Durchsatz. Werden die Aufgaben über den ganzen Tag verteilt, ergibt sich ein anderer Bedarf als bei einer Verarbeitung innerhalb der Geschäftszeiten. Wählen Sie daher ein Zeitfenster, das zu Ihrem Service passt. Gehen Sie nicht davon aus, dass nächtliche Kapazität hilft, wenn Nutzer die Ergebnisse früher benötigen.

Wenn mehrere PBXs gemeinsame KI-Ressourcen nutzen, berücksichtigen Sie alle Systeme und erfassen Sie ihre Werte getrennt. So erkennen Sie, welche zusätzliche Last ein neuer Kunde oder eine neue Abteilung verursacht.

In diesem Beispiel sendet ein Unternehmen monatlich 50,000 Aufzeichnungsminuten zur Transkription und möchte sie an jedem Arbeitstag innerhalb von 12 Stunden verarbeiten. Daraus ergibt sich eine durchschnittliche stündliche Last von rund 189 Aufzeichnungsminuten:

Eingabe für die Dimensionierung Rechenbeispiel
Monatliche Aufzeichnungslast 50,000 Minuten
Arbeitstage pro Monat 22
Verarbeitungsstunden je Arbeitstag 12
Verfügbare Verarbeitungszeit 22 x 12 = 264 Stunden/Monat
Durchschnittliche Stundenlast 50,000 / 264 = 189.4 Aufzeichnungsmin./Stunde

Diese durchschnittliche Stundenlast ist Ihr Ausgangsbedarf. Im nächsten Schritt vergleichen Sie sie mit der gemessenen Serverkapazität.

Vergleichen Sie den Bedarf mit der gemessenen Kapazität

Prüfen Sie anschließend die Ausgangslast gegen den tatsächlich gemessenen Durchsatz des vorgesehenen Servers und berücksichtigen Sie dabei einen Wachstumspuffer.

Allgemeine Hardwareangaben berücksichtigen weder Ihre Gesprächslängen noch den Analyseaufwand. Messen Sie deshalb den dauerhaft erreichbaren Durchsatz anhand repräsentativer Aufzeichnungen einschließlich Analyse. Hardwarevergleiche sowie Erläuterungen zu Speed Factor und Round-Trip-Zeit finden Sie unter 3CX AI Server – Speed and Response Time. Die Hardware- und Plattformanforderungen stehen in der Installationsanleitung für den AI Server. Ein Wachstumspuffer zeigt, ob der Server zusätzliche kurzfristige Last ohne sofortige Erweiterung bewältigt.

Nehmen wir für das vorherige Beispiel an, dass Ihre Hardware einen gemessenen Speed Factor von 10x erreicht und Sie 30 % Wachstum einplanen. Ersetzen Sie diese Werte durch eigene Messungen und Prognosen.

Kapazitätsprüfung Berechnung Ergebnis
Gemessene Kapazität (10x Speed Factor) 10 x 60mins 600 Aufzeichnungsmin./Stunde
Durchschnitt + 30 % Wachstum 189.4 x 1.30 246.2 Aufzeichnungsmin./Stunde
Geplante durchschnittliche Kapazitätsnutzung 246.2 / 600 x 100 41.0 % der AI-Server-Kapazität
Beobachtete Last in der Spitzenstunde Gemessener Wert 300 Aufzeichnungsmin./Stunde
Spitzenstunde + 30 % Wachstum 300 x 1.30 390 Aufzeichnungsmin./Stunde
Geplante Kapazitätsnutzung in der Spitzenstunde 390 / 600 x 100 65.0 % der AI-Server-Kapazität

In diesem Beispiel beansprucht der geplante Durchschnitt 41 % des gemessenen Durchsatzes und die Spitzenstunde 65 %. Der Server hat somit ausreichend Reserve. Der Durchschnitt allein ist jedoch nur eine erste Prüfung, da er Spitzen verbergen kann. Diese Prozentwerte vergleichen die Aufzeichnungslast mit dem gemessenen Durchsatz und stehen nicht für die CPU- oder GPU-Auslastung.

Prüfen Sie Lastspitzen und halten Sie Reserven für Ausfälle bereit

Ihr AI Server muss Spitzenlasten bewältigen und auch dann Ergebnisse innerhalb einer akzeptablen Zeit liefern, wenn ein Teil der Kapazität ausfällt.

Mehrere Kunden können bei monatlicher Betrachtung problemlos auf einen Server passen, ihre Aufzeichnungen aber überwiegend gleichzeitig übermitteln. Auch längere Gespräche beeinflussen die Fertigstellungszeit einzelner Aufgaben. Wachstumspuffer und Ausfallsicherheit beantworten unterschiedliche Fragen: Der Puffer deckt zusätzliche Last ab, während Ausfallsicherheit auch bei einem nicht verfügbaren Server genügend Restkapazität erfordert.

Wiederholen Sie deshalb die Prüfung für den höchsten beobachteten Bedarf, einschließlich überlappender Spitzen mehrerer PBXs im gemeinsamen Pool. Testen Sie anschließend einen repräsentativen großen Aufgabenblock und messen Sie die Ergebniszeiten. Eine Warteschlange, die innerhalb der akzeptierten Verzögerung abgearbeitet wird, ist etwas anderes als eine ständig wachsende. Prüfen Sie außerdem, ob die verbleibende Kapazität beim Ausfall eines Servers Ihre geforderte Bearbeitungszeit einhält, statt stets alle Server als verfügbar anzusetzen.

Wenn sich die Warteschlange nicht abbaut oder die Bearbeitungszeit bei reduzierter Kapazität leidet, überprüfen Sie Verarbeitungsfenster, Last und Kapazität, bevor Sie weitere Anforderungen hinzufügen.

Erweitern Sie die Kapazität bei wachsendem Bedarf

Berechnen Sie Ihren Bedarf bei jeder Änderung der Last neu und erweitern Sie die Kapazität, bevor der Server in Rückstand gerät.

Eine neue PBX, die Aufzeichnung einer weiteren Abteilung oder dauerhaftes Wachstum erhöhen die Last. Gemeinsame Server ermöglichen die Nutzung freier Kapazitäten systemübergreifend; zusätzliche Transkribierer (AI Server) vergrößern den Pool. Ein Pool mit unterschiedlichen Servern skaliert nicht zwangsläufig proportional zu deren Anzahl. Messen Sie daher den gemeinsamen Durchsatz nach jeder Erweiterung.

Die Zeitleiste am Anfang zeigt das Prinzip: Organisches Wachstum bringt den ersten Transkribierer auf 80 % seiner Kapazität. Ein zweiter schafft Reserve, die anschließend die Last einer zusätzlichen PBX auffängt. Die Erweiterung bei 80 % ist ein Beispiel, keine Empfehlung. Erweitern Sie rechtzeitig, damit Ihre gewählten Wachstums- und Ausfallsicherheitsreserven erhalten bleiben.

Beginnen Sie mit dem heute gemessenen Bedarf, berücksichtigen Sie realistisches Wachstum und prüfen Sie die tatsächlichen Bearbeitungszeiten, wenn sich die Last ändert. So wachsen Ihre KI-Ressourcen mit Ihren Kunden, ohne dass Sie vom ersten Tag an alle denkbaren künftigen Anforderungen finanzieren müssen.

Diskutieren Sie mit

Beteiligen Sie sich an der V20-Diskussion in unseren entsprechenden Partner– oder Kundenforen. Folgen Sie uns auf X und LinkedIn, um über Neuigkeiten und neue Funktionen auf dem Laufenden zu bleiben.