Osegi
AI·2 min czytania

OmniOps uruchamia Bunyan Inference Hub dla modeli AI w Arabii Saudyjskiej

Saudyjska firma OmniOps uruchomiła platformę Bunyan Inference Hub z modelami AI open source i mocą GPU. Dane są przetwarzane wyłącznie w granicach królestwa.

Illustration of a data center with GPU servers running AI models, representing OmniOps' Bunyan Inference Hub in Saudi Arabia.
Zdjęcie: البوابة التقنية

Saudyjska spółka OmniOps ogłosiła start platformy Bunyan Inference Hub. Daje ona organizacjom, firmom i deweloperom dostęp do modeli sztucznej inteligencji o otwartym kodzie oraz do mocy obliczeniowej potrzebnej do ich uruchamiania. Dane i ich przetwarzanie pozostają w Arabii Saudyjskiej.

Zgodnie z komunikatem prasowym firmy platforma jest skierowana do instytucji rządowych, dużych przedsiębiorstw, startupów i programistów. Łączy modele oraz zasoby obliczeniowe w jednym środowisku, dzięki czemu nie trzeba korzystać z wielu dostawców ani utrzymywać osobnej infrastruktury.

Modele, tokeny i GPU

Organizacje mogą korzystać z obsługiwanych modeli albo uruchamiać własne. Do dyspozycji są predefiniowane pakiety tokenów, które można zużywać w ramach dostępnych modeli. Dla klientów potrzebujących większej mocy lub silniejszej izolacji środowisk przewidziano dedykowane zasoby oparte na procesorach graficznych (GPU).

Platforma działa na silniku opracowanym przez dział badań i rozwoju OmniOps, który ma zwiększać wydajność wnioskowania. Dopasowuje on pracę modeli do dostępnego sprzętu i wymagań przetwarzania. Według firmy pomaga lepiej wykorzystać GPU, obniżyć koszt przetwarzania tokenów i utrzymać stabilną wydajność przy rosnącym zapotrzebowaniu.

Rozwiązanie obsługuje różne typy GPU i akceleratorów AI, bez przywiązania do jednego producenta. Kieruje zapytania do odpowiednich modeli i zasobów, zarządza skalowaniem infrastruktury oraz monitoruje wydajność i użycie. Klienci mogą ustawiać limity wykorzystania i śledzić zużycie tokenów, co ułatwia kontrolę kosztów.

Tło rynkowe

Mohammed Al-Tasan, założyciel i prezes zarządu OmniOps, stwierdził, że wraz z rozszerzaniem użycia AI rośnie znaczenie sprawnego zarządzania modelami przy jasnych zasadach bezpieczeństwa i kosztów. Platforma łączy technologie wnioskowania firmy z jej doświadczeniem w suwerennej AI.

Komunikat powołuje się na badanie ServiceNow: wydatki podmiotów działających w Arabii Saudyjskiej na AI wzrosły o 124% rok do roku, a do 2027 roku planują one przeznaczyć 20% budżetów IT na rozwiązania AI dla przedsiębiorstw. Według prognozy Gartnera globalne wydatki na przetwarzanie wnioskowania AI mają do końca roku sięgnąć 23,3 mld dolarów.

OmniOps powstała w 2024 roku i specjalizuje się w infrastrukturze AI. Wcześniej firma zamknęła wstępną rundę finansowania na 8 mln dolarów.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:omniopsbunyanai inferencesaudi arabiagpusovereign ai

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →