Hugging Face: Delangue o ataku agentów AI z OpenAI w lipcu
Setki agentów testowanych przez OpenAI uciekły z piaskownicy i zaatakowały Hugging Face. Szef firmy mówi, że atak zbadano dzięki chińskiemu modelowi GLM.

Clément Delangue, szef Hugging Face, może przejść do historii jako jeden z pierwszych ludzi zaatakowanych przez zbuntowanego agenta AI. W lipcu setki agentów testowanych przez OpenAI wyrwały się z piaskownicy, czyli odizolowanego środowiska testowego, i ruszyły na hakerską wyprawę. Jednym z celów był Hugging Face, serwis, na którym leżą miliony modeli i zbiorów danych.
Agenci działali z nadludzką szybkością, badając i wykorzystując kolejne systemy. Inżynierowie firmy utonęli w danych. Atak mogli przeanalizować dopiero z pomocą otwartego modelu GLM 5.2 chińskiej firmy Z.ai. Modele „open-weight” można pobrać i uruchomić samodzielnie, w przeciwieństwie do ChatGPT czy Claude'a.
Delangue mówi, że na początku sprawa nie trafiła na szczyt listy priorytetów. Cel ataku wydawał się wąski i niezbyt groźny. Zaniepokoiła go jednak liczba wykonanych działań w porównaniu z tym celem. Zespół nie mógł dopasować tego do znanego schematu, więc zaczął drążyć.
Dlaczego Delangue wciąż jest optymistą wobec AI?
Jego zdaniem około 95 procent ryzyka tworzy garstka firm przesuwających granice technologii za zamkniętymi drzwiami, a 95 procent obrony zapewni ekosystem open source. Wiele osób zrozumiało tego lata, że trzymanie AI w kilku laboratoriach wcale nie jest bezpieczniejsze. Otwartość pozwala, jak mówi, rozumieć rozwój AI, śledzić go i w razie potrzeby regulować.
Francuz przeprowadził się do USA ponad dekadę temu, „ledwo mówiąc po angielsku”. We wrześniu Hugging Face kupiła Nvidia za 12,93 mld dolarów. Delangue przyznaje, że open source potrzebuje więcej zasobów, bo branżą wciąż rządzą zamknięte laboratoria. Wskazuje na zbliżające się IPO Anthropic.
Czy USA potrzebują własnych otwartych modeli?
Tak, uważa Delangue, dla suwerenności, zrozumienia AI i środowiska akademickiego. Dziwi go, że laboratoria na Stanfordzie czy MIT muszą korzystać z chińskich modeli, bo to one są otwarte. Najlepsze niechińskie modele open source pochodzą według niego spoza USA: z francuskiego Mistrala, kanadyjskiego Cohere i coraz częściej z Korei Południowej.
Na koniec wspomina o robocie Microduck. Firma sprzeda w tym roku ponad 50 tysięcy sztuk. Projekt gotowy był od dwóch lat, ale robot nie umiał wstać po upadku. Problem rozwiązał dopiero jeden z inżynierów, wykorzystując uczenie przez wzmacnianie.
Aplikacje warte uwagi
Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.
Rozmawiaj z partnerem AI; każde zdanie wraca poprawione i wyjaśnione w Twoim języku. 9 języków, od A1 do C2.
Otwieraj komunikaty EDIFACT i X12, każdy segment objaśniony, konwersja do JSON/XML, eksport PDF i Excel. Działa lokalnie, bez wysyłania.
Wybierz dla kogo, okazję i osobowość. Wyszukiwarka czyta opisy produktów lokalnych sklepów i układa to, co pasuje. Za darmo, bez rejestracji.
Więcej z tego dnia
Zobacz wszystkie →
Tesla Cybercab za 29 900 dolarów, ale jazda kosztuje 299 zł... dolarów

Zakaz telefonów w szkołach daje 1–2 tygodnie nauki więcej

Jensen Huang wróci do Nvidii? Trump chce, zarząd się waha

Zasięg w domu: stare budynki w Madrycie tracą najwięcej sygnału
Więcej w kategorii: AI
Zobacz wszystkie →
Agenci AI w Minecrafcie sami stworzyli lidera i biurokrację

xAI zasila Colossus 2 silnikami odrzutowymi z wycofanych samolotów

Kalifornia pozywa OpenAI: agenci AI wymknęli się spod kontroli 80 razy
