OpenAI przebudowuje Model Spec ChatGPT wokół pięciu zasad

OpenAI ogłosiło aktualizację dokumentu Model Spec, który określa, jak modele sztucznej inteligencji firmy powinny zachowywać się podczas rozmów z użytkownikami i wykonywania zadań. Całość została uporządkowana wokół pięciu zasad.

Są to: zrozumienie intencji użytkownika, ograniczanie szkód, uczciwość, wspieranie zdolności człowieka do podejmowania własnych decyzji oraz uwzględnianie osób, na które wpływają wyniki pracy modelu. Zmiana ma pomóc systemom AI radzić sobie w sytuacjach, w których same bezpośrednie instrukcje nie wystarczą.

Co zawierają zasady

Według komunikatu opublikowanego na oficjalnej stronie OpenAI pierwsza zasada zakłada, że model ma rozumieć, co użytkownik chce osiągnąć, zamiast wykonywać polecenia dosłownie, bez względu na kontekst. Druga dotyczy unikania potencjalnych szkód wynikających z odpowiedzi lub działań modelu.

Trzecia mówi o szczerości i przejrzystości co do tego, co system wie, a czego nie może potwierdzić. Czwarta ma wspierać zdolność użytkownika do samodzielnego myślenia i wyboru. Piąta każe brać pod uwagę sytuację osób, które mogą odczuć skutki wyników, oraz pomagać w wykonywaniu pracy, na której można polegać.

Aktualizacja obejmuje też wskazówki o rozumieniu kontekstu rozmowy, korzystaniu z informacji powiązanych z użytkownikiem i poszanowaniu nadzoru człowieka. Firma zmieniła część reguł dotyczących sposobu odpowiadania i zrezygnowała z większości dotychczasowych szczegółowych instrukcji o stylu pisania.

Nie jest to nowy model

Aktualizacja nie oznacza premiery nowego modelu ani tego, że wszystkie zmiany są już w pełni wdrożone w ChatGPT. OpenAI podkreśla, że dokument opisuje zachowanie, do którego firma dąży, a obecne modele nie odzwierciedlają jeszcze w pełni wszystkich nowych zasad.

Spółka rozwija metody trenowania, które pomagają modelom rozumieć powody instrukcji, a nie tylko ich przestrzegać. Chce też, by styl pisania lepiej odpowiadał preferencjom użytkownika, jego językowi i kontekstowi pracy. Granice bezpieczeństwa i pozostałe mechanizmy kontroli nadal obowiązują.