OmniOps startet Bunyan Inference Hub für KI-Modelle in Saudi-Arabien

Das bietet die Plattform

Kunden können unterstützte Modelle nutzen oder eigene betreiben. Dafür gibt es vordefinierte Token-Pakete, die über die verfügbaren Modelle hinweg verbraucht werden. Wer mehr Rechenleistung oder eine stärkere Trennung der Umgebungen braucht, erhält dedizierte GPU-Ressourcen.

Grundlage ist eine Inferenz-Engine, die das Forschungs- und Entwicklungsteam von OmniOps selbst entwickelt hat. Sie passt den Modellbetrieb an die verfügbare Hardware und den Datenbedarf an. Nach Angaben des Unternehmens verbessert sie die GPU-Auslastung, senkt die Kosten der Token-Verarbeitung und hält die Leistung auch bei steigender Nachfrage stabil. Die Plattform unterstützt verschiedene GPU-Typen und KI-Beschleuniger statt eines einzelnen Hardwareherstellers, leitet Anfragen an passende Modelle und Ressourcen weiter, steuert die Skalierung und überwacht Leistung und Nutzung. Nutzungsobergrenzen und Token-Verbrauch lassen sich ebenfalls festlegen und verfolgen.

Gründer und CEO Mohammed Al-Tassan erklärte, mit der wachsenden KI-Nutzung in Unternehmen werde ein effizientes Modellmanagement unter klaren Sicherheits- und Kostenvorgaben wichtiger. Die Plattform verbinde die eigene Inferenztechnik mit der Erfahrung im Betrieb souveräner KI-Lösungen.

Marktumfeld

Die Mitteilung verweist auf eine Studie von ServiceNow, wonach die KI-Ausgaben saudischer Organisationen im Jahresvergleich um 124 Prozent gestiegen sind. Bis 2027 wollen sie demnach 20 Prozent ihrer IT-Budgets für KI-Lösungen in Unternehmen einsetzen. Gartner erwartet zudem, dass die weltweiten Ausgaben für KI-Inferenz bis Ende des Jahres 23,3 Milliarden US-Dollar erreichen.

OmniOps wurde 2024 gegründet und ist auf KI-Infrastruktur spezialisiert. Über die Plattform Bunyan stellt das Unternehmen Rechenkapazität bereit, mit Schwerpunkt auf Hosting und Verarbeitung von Daten in Saudi-Arabien. Zuvor hatte es eine Seed-Runde über 8 Millionen US-Dollar abgeschlossen.