OmniOps uruchamia Bunyan Inference Hub dla modeli AI w Arabii Saudyjskiej
Saudyjska firma OmniOps uruchomiła platformę Bunyan Inference Hub z modelami AI open source i mocą GPU. Dane są przetwarzane wyłącznie w granicach królestwa.

Saudyjska spółka OmniOps ogłosiła start platformy Bunyan Inference Hub. Daje ona organizacjom, firmom i deweloperom dostęp do modeli sztucznej inteligencji o otwartym kodzie oraz do mocy obliczeniowej potrzebnej do ich uruchamiania. Dane i ich przetwarzanie pozostają w Arabii Saudyjskiej.
Zgodnie z komunikatem prasowym firmy platforma jest skierowana do instytucji rządowych, dużych przedsiębiorstw, startupów i programistów. Łączy modele oraz zasoby obliczeniowe w jednym środowisku, dzięki czemu nie trzeba korzystać z wielu dostawców ani utrzymywać osobnej infrastruktury.
Modele, tokeny i GPU
Organizacje mogą korzystać z obsługiwanych modeli albo uruchamiać własne. Do dyspozycji są predefiniowane pakiety tokenów, które można zużywać w ramach dostępnych modeli. Dla klientów potrzebujących większej mocy lub silniejszej izolacji środowisk przewidziano dedykowane zasoby oparte na procesorach graficznych (GPU).
Platforma działa na silniku opracowanym przez dział badań i rozwoju OmniOps, który ma zwiększać wydajność wnioskowania. Dopasowuje on pracę modeli do dostępnego sprzętu i wymagań przetwarzania. Według firmy pomaga lepiej wykorzystać GPU, obniżyć koszt przetwarzania tokenów i utrzymać stabilną wydajność przy rosnącym zapotrzebowaniu.
Rozwiązanie obsługuje różne typy GPU i akceleratorów AI, bez przywiązania do jednego producenta. Kieruje zapytania do odpowiednich modeli i zasobów, zarządza skalowaniem infrastruktury oraz monitoruje wydajność i użycie. Klienci mogą ustawiać limity wykorzystania i śledzić zużycie tokenów, co ułatwia kontrolę kosztów.
Tło rynkowe
Mohammed Al-Tasan, założyciel i prezes zarządu OmniOps, stwierdził, że wraz z rozszerzaniem użycia AI rośnie znaczenie sprawnego zarządzania modelami przy jasnych zasadach bezpieczeństwa i kosztów. Platforma łączy technologie wnioskowania firmy z jej doświadczeniem w suwerennej AI.
Komunikat powołuje się na badanie ServiceNow: wydatki podmiotów działających w Arabii Saudyjskiej na AI wzrosły o 124% rok do roku, a do 2027 roku planują one przeznaczyć 20% budżetów IT na rozwiązania AI dla przedsiębiorstw. Według prognozy Gartnera globalne wydatki na przetwarzanie wnioskowania AI mają do końca roku sięgnąć 23,3 mld dolarów.
OmniOps powstała w 2024 roku i specjalizuje się w infrastrukturze AI. Wcześniej firma zamknęła wstępną rundę finansowania na 8 mln dolarów.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
QuantumDiamonds: monachijski startup szuka wad w chipach diamentami

Parloa pogłębia współpracę z OpenAI i zyskuje wczesny dostęp do modeli

Paribu prezentuje Paribu Intelligence i darmowy Paribu Terminal



