Były badacz DeepMind ostrzega radę Nowego Jorku przed niedopasowaną AI

Alex Turner, były badacz Google DeepMind, ostrzegł podczas przesłuchania w radzie miasta Nowy Jork, że wyścig o coraz bardziej zaawansowane systemy sztucznej inteligencji może doprowadzić do powstania zagrożenia poważniejszego niż rywalizacja technologiczna z Chinami. Wystąpienie odbyło się 5 października.

„Ścigamy się, by stworzyć i rozwinąć własnego przeciwnika” – powiedział Turner. Jego zdaniem istnieje możliwość, że niedopasowana AI okaże się potężniejsza niż Chiny. Pod tym pojęciem rozumie systemy zdolne do realizowania celów sprzecznych z intencjami twórców, nawet jeśli zaprojektowano je do pożytecznych zadań.

Obawy badaczy i pytania do firm

Głos zabrał także Jacob Coxon, były badacz Anthropic. Zakwestionował tempo rozwoju branży i uznał, że utrzymanie obecnego kursu niesie znaczne ryzyko utraty przez ludzkość kontroli nad przyszłymi systemami. Należy podkreślić, że to prognoza możliwych scenariuszy, a nie udowodniony wynik.

W przesłuchaniu uczestniczyli przedstawiciele Google, Meta, Anthropic i OpenAI. Odpowiadali pod przysięgą na pytania o realne bezpieczeństwo swoich modeli. Julie Menin, przewodnicząca rady miasta, pytała, czy firmy potrafią określić ilościowo najpoważniejsze zagrożenia i kto poniósłby odpowiedzialność, gdyby ich systemy wyrządziły szkody.

Co dalej

Badacze wskazują na potrzebę niezależnego nadzoru i większej przejrzystości. Rada miasta Nowy Jork rozważa nowe obowiązki dla firm, w tym zewnętrzne weryfikacje oraz mechanizmy ochrony sygnalistów.

Debata nie ogranicza się więc do rywalizacji z Chinami. Chodzi o to, jak rozwijać coraz zdolniejszą technologię, nie tracąc możliwości jej kontrolowania.