Pionierzy nowych technologii domagają się wstrzymania prac nad sztuczną inteligencją

Kluczowe postacie w dziedzinie sztucznej inteligencji chcą zawieszenia pracy nad najbardziej zaawansowanymi systemami AI. Obawiają się, że mogą one stworzyć zagrożenie dla ludzkości.

Jak zrelacjonowało w środę BBC list otwarty ostrzegający o potencjalnych zagrożeniach związanych z rozwojem sztucznej inteligencji zawiera twierdzenie, że wyścig w celu opracowania coraz bardziej zaawansowanych systemów już wymknął się spod kontroli. Szef Twittera, Elon Musk, jest jednym z tych, którzy chcą, aby kształcenie sztucznej inteligencji powyżej określonej zdolności zostało wstrzymane na co najmniej sześć miesięcy. Podpisali się również współzałożyciel Apple Steve Wozniak i niektórzy badacze z DeepMind.

OpenAI, firma stojąca za ChatGPT, niedawno wypuściła GPT-4 — najnowocześniejszą technologię, która zaimponowała obserwatorom swoją zdolnością do wykonywania zadań, takich jak odpowiadanie na pytania dotyczące obiektów na obrazach. List Future of Life Institute i podpisany przez pionierów zmian technologicznych domaga się tymczasowego wstrzymania rozwoju na obecnym poziomie.

“Systemy AI mogące pod wzglęem inteligencji rywalizować z ludźmi mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości” – można przeczytać w liście. Future of Life Institute jest organizacją non-profit, która za swoją misję uważa „odsuwanie technologii transformacyjnych od ekstremalnych zagrożeń na dużą skalę w kierunku korzystnych dla życia”. Musk, właściciel Twittera i dyrektor generalny firmy samochodowej Tesla, jest wymieniony jako zewnętrzny doradca organizacji.

Zaawansowaną AI należy rozwijać ostrożnie, czytamy w liście, ale zamiast tego „w ostatnich miesiącach laboratoria sztucznej inteligencji wdały się w wymykający się spod kontroli wyścigu, aby rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt – nawet ich twórcy – nie potrafi zrozumieć, przewidzieć ich działania lub wiarygodnie kontrolować”.

List ostrzega, że sztuczna inteligencja może zalewać kanały informacyjne dezinformacją i zastępować miejsca pracy automatyzacją. „Czy powinniśmy rozwijać nieludzkie umysły, które mogłyby ostatecznie przewyższyć ilościowo, przechytrzyć, uczynić nas przestarzałymi i zastąpić?” – pytają autorzy listu.

List jest następstwem niedawnego raportu banku inwestycyjnego Goldman Sachs, w którym stwierdzono, że chociaż sztuczna inteligencja prawdopodobnie zwiększy produktywność, miliony miejsc pracy mogą zostać zautomatyzowane i utracone przez ludzi. Z kolei inni eksperci powiedzieli BBC, że wpływ sztucznej inteligencji na rynek pracy jest bardzo trudny do przewidzenia.

W liście sugeruje się, iż są potrzebne „nowe i zdolne organy regulacyjne zajmujące się sztuczną inteligencją”. Ostatnio w USA, Wielkiej Brytanii i UE wysunięto szereg propozycji regulacji technologii. Jednak Wielka Brytania wykluczyła już powołanie w tym celu specjalnej instytucji.

W niedawnym poście na blogu, cytowanym w liście, OpenAI ostrzegł przed ryzykiem związanym z lekkomyślnym opracowaniem sztucznej inteligencji ogólnej (AGI) piszać o “celu spowolnienia w krytycznych momentach”.

OpenAI nie skomentowało publicznie listu. Musk był współzałożycielem OpenAI – choć kilka lat temu zrezygnował z członkostwa w zarządzie tej organizacji i krytycznie komentował jej obecny kierunek na Twitterze. Autonomiczne funkcje jazdy stworzone przez jego firmę samochodową Tesla, podobnie jak większość podobnych systemów, wykorzystują technologię AI.

Czytaj także: Algorytm sztucznej inteligencji pokonał pilota myśliwca F-16

bbc.com/kresy.pl