Współzałożyciel Anthropic u boku papieża. „AI nie może należeć tylko do firm technologicznych”
Współzałożyciel firmy Anthropic Chris Olah powiedział w poniedziałek w Watykanie, że rozwoju sztucznej inteligencji nie można pozostawić wyłącznie firmom technologicznym. Jego zdaniem nadzór nad AI powinny sprawować także rządy, społeczeństwo obywatelskie i przywódcy religijni.
Olah wystąpił podczas prezentacji pierwszej encykliki papieża Leona XIV „Magnifica humanitas”, poświęconej wyzwaniom związanym ze sztuczną inteligencją. Był on jedynym przedstawicielem Big Techu zaproszonym na watykańskie wydarzenie.
Współzałożyciel Anthropic ostrzegł, że istnieje „realna możliwość”, iż sztuczna inteligencja doprowadzi do wyparcia ludzkiej pracy „na bardzo dużą skalę”. „Jeśli tak się stanie, wsparcie osób wypartych z rynku pracy będzie moralnym imperatywem o historycznych proporcjach” — powiedział Kanadyjczyk podczas prezentacji encykliki.
Olah zwrócił uwagę, że firmy rozwijające najbardziej zaawansowane modele AI działają pod silną presją komercyjną, geopolityczną i osobistą. Jak mówił, presje te mogą pozostawać w sprzeczności z interesem społeczeństwa.
„Każde laboratorium AI działa wewnątrz zestawu zachęt i ograniczeń, które czasami mogą kolidować z robieniem tego, co właściwe” — powiedział. Dodał, że nawet badacze mający dobre intencje pozostają pod wpływem tych mechanizmów. Z tego powodu, jak podkreślił, konieczna jest zewnętrzna kontrola.
Anthropic to amerykańska firma tworząca narzędzia Claude. Została założona w 2021 roku przez Olaha i innych byłych pracowników OpenAI (firmy stojącej za ChatGPT). Założyciele Anthropic odeszli z OpenAI z powodu obaw, że rozwój technologii postępuje zbyt szybko i bez wystarczających testów bezpieczeństwa.
Anthropic pozostaje w sporze z administracją prezydenta Donalda Trumpa w sprawie ograniczeń dotyczących wojskowego wykorzystania modeli AI. Jak informowaliśmy wcześniej, Pentagon oznaczył firmę jako ryzyko dla łańcucha dostaw bezpieczeństwa narodowego, co blokuje Anthropic w kontraktach z resortem obrony. Firma zaskarżyła tę decyzję, zarzucając sekretarzowi obrony Pete’owi Hegsethowi przekroczenie uprawnień.
„Myślę, że to przerażający moment”
Pytany przez Reutersa, dlaczego był jedynym reprezentantem Big Techu podczas wydarzenia w Watykanie, Olah odpowiedział, że decyzja należała do Stolicy Apostolskiej. Wskazał jednocześnie na swoje wieloletnie zaangażowanie w kwestie bezpieczeństwa AI oraz rozmowy z przedstawicielami ponad 15 religii na temat problemów stawianych przez tę technologię.
Olah ocenił, że zaangażowanie Kościoła w debatę o AI jest potrzebne, ponieważ pytania etyczne związane ze sztuczną inteligencją wykraczają daleko poza inżynierię. „Myślę, że to przerażający moment. Sprawy posuwają się szybko. To naprawdę potężna technologia” — powiedział Reutersowi.
W swoim wystąpieniu współzałożyciel Anthropic wskazał trzy główne obszary wymagające pilnej uwagi: ryzyko masowej utraty miejsc pracy, konieczność globalnego podziału korzyści wynikających z rozwoju AI oraz problem interpretowania zachowania coraz bardziej złożonych i nieprzejrzystych systemów.
Papież Leon XIV w encyklice „Magnifica Humanitas” wezwał do uregulowania rozwoju sztucznej inteligencji i ostrzegł przed jej skutkami społecznymi, politycznymi oraz wojskowymi. Dokument wskazuje między innymi na ryzyko dezinformacji, wzrostu nierówności, automatyzacji decyzji związanych z wojną oraz podporządkowania dobra wspólnego interesom prywatnych firm technologicznych.
Kresy.pl / Reuters
