Osegi
AI·2 min czytania

Anthropic szuka śledczego CBRN-E: do 290 tys. dolarów rocznie

Anthropic szuka kogoś, kto wytropi osoby próbujące użyć Claude'a do broni, patogenów lub toksyn. Pensja to 230–290 tys. dolarów, a za ofertą stoi dziwna sprawa.

A security analyst reviewing data on multiple screens in a dim office, representing AI misuse investigation work.
Zdjęcie: ギズモード・ジャパン

Anthropic, firma stojąca za asystentem Claude, ogłosiła ofertę pracy, jakiej nie widuje się na co dzień: szuka „Technical CBRN-E Threat Investigator”, czyli śledczego od zagrożeń chemicznych, biologicznych, radiologicznych, jądrowych i związanych z materiałami wybuchowymi. Wynagrodzenie wynosi od 230 do 290 tys. dolarów rocznie.

Na czym polega praca śledczego CBRN-E?

Skrót CBRN-E to angielskie nazwy: chemia, biologia, promieniowanie, broń jądrowa i materiały wybuchowe. Zadanie jest jasne: wykrywać, badać i zatrzymywać nadużycia AI Anthropic w tych obszarach. Oferta wprost mówi o badaniu prób użycia AI do tworzenia broni, patogenów i toksyn.

Na co dzień trzeba kopać w danych w SQL-u i Pythonie, śledzić ślady użytkowników, pisać raporty i kontaktować się z agencjami rządowymi oraz organizacjami naukowymi. Do tego dochodzi przewidywanie, jak źli ludzie wykorzystają coraz mądrzejsze AI.

Sprawa z grantem na wirusa chikungunya

W maju ktoś poprosił Claude'a o przygotowanie wniosku grantowego na badania nad wirusem chikungunya przenoszonym przez komary. Chodziło o to, by wirus łatwiej zakażał ludzi i lepiej unikał ich odporności. System pilnujący niebezpiecznych rozmów o biologii zatrzymał prośbę.

Dziwna była też afiliacja we wniosku: wojskowa instytucja badawcza, a wskazany badacz był cywilem. Od tej niespójności zaczęło się śledztwo. Ślady prowadziły przez infrastrukturę w USA, która pozwalała obejść ograniczenia regionalne, przez pośredników z szarego rynku i fikcyjne konta. Wszystkie powiązane konta zablokowano.

Osoby z tej sprawy to czynni naukowcy. Nie ma podstaw, by twierdzić, że chcieli komuś zaszkodzić. Wiedza z biologii służy zarówno ochronie, jak i szkodzeniu, a odróżnienie jednego od drugiego bywa trudne, jak przyznaje raport. To właśnie ma robić nowy pracownik. Eksperci oceniają raport różnie: jedni widzą w nim niepokojące ostrzeżenie, inni przesadę.

Wymagania i warunki

Oferta szczególnie ceni głęboką wiedzę z obrony chemicznej lub biologicznej. Mile widziane jest doświadczenie w przeciwdziałaniu broni masowego rażenia oraz ważne poświadczenie bezpieczeństwa Top Secret. Praca jest w San Francisco, Nowym Jorku lub Waszyngtonie, z obecnością w biurze co najmniej przez 25% czasu.

Anthropic nie jest sam. OpenAI szukało badacza ryzyk biologicznych i chemicznych za 295–445 tys. dolarów. W ogłoszeniu ostrzeżono też, że można się zetknąć z drastycznymi treściami i że czasem trzeba reagować w weekendy i święta.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:anthropicclaudecbrnai safetyjobsbiosecurity

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →