Elon Musk i Sam Altman też chcą spowolnienia rozwoju technologii AI

"Dario ma rację" – napisał Musk w serwisie X, a Altman dodał: "Zgadzam się z Dariem, musimy wyznaczyć nowe granice".

Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o "wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania".

Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, zapewnienie dłuższego czasu na "zarządzanie związanym z tym ryzykiem".

Amodei zapowiedział też, że Anthropic zatrudni na stałe zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.

Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań dotyczących rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw.

Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".

Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.

Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.

źródło: PAP