"Musimy spowolnić tempo, w którym zwiększamy możliwości modeli sztucznej inteligencji. Postęp nadal będzie wydawał się szybki, a my musimy mądrze wykorzystać zyskany czas" – napisał Amodei w artykule opublikowanym w internecie.
Dyrektor generalny Anthropica zapewnił, że nie chodzi o "wstrzymanie szkolenia modeli, ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania".
Szef Anthropica chce regulacji branży AI
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy, a jego celem ma być oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, także zapewnienie większej ilości czasu na "zarządzanie ryzykiem z tym związanym".
Amodei zapowiedział też, że Anthropic zatrudni stałych, zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań obejmujących zarówno rozwój broni, operacje cybernetyczne, jak i inwigilację oraz oszustwa.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
WIDEO
W ubiegłym tygodniu Reuters informował, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, a kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
źródło: PAP
