27-letni matematyk ogłosił swoją decyzję we wpisie na platformie X i wywiadzie dla dziennika "Wall Street Journal".
"Dzisiaj zrezygnowałem z pracy w Anthropic. Ostatnie trzy lata spędziłem na badaniach przedtreningowych w OpenAI i Anthropic. Żadna z firm nie zachowuje się odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem" – napisał Coxon na X.
Brytyjczyk powiedział, że w tym roku porzucił pracę w OpenAI, twórcy ChataGPT, na rzecz Anthropica ze względu na reputację firmy jako bardziej zwracającej uwagę na kwestie bezpieczeństwa. Uznał jednak, że i ona uczestniczy w wyścigu o stworzenie "nadludzkiej" inteligencji, która będzie w stanie przełamać wszelkie bariery, "zrewolucjonizować dowolną dziedzinę z dnia na dzień i zdobyć prawdziwą władzę i zasoby".
"Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady" – zaalarmował na X. Jego zdaniem w Anthropic, którego szef Dario Amodei wielokrotnie mówił o zagrożeniach związanych z AI, "uważają, że nikt inny nie będzie zachowywał się odpowiedzialnie, więc oni muszą to zrobić sami, mimo ryzyka".
Mimo to, Coxon uznał, że nadzieję na większe uregulowanie koniecznego – jego zdaniem – postępu dają incydenty takie, jak ten z lipca, kiedy tysiące trenowanych przez OpenAI agentów AI, mimo pozbawienia dostępu do internetu, potajemnie dokonało włamania na systemy firmy Hugging Face, koordynując swoje działania między sobą na zhakowanym przez siebie forum dyskusyjnym. Coxon wypowiedział się jednak pesymistycznie na temat możliwości wyhamowania rywalizacji USA z Chinami.
Odejścia z Anthropica i OpenAI
Jak zauważył "Wall Street Journal", Brytyjczyk jest jednym z pierwszych pracowników Anthropica, którzy zdecydowali się odejść z firmy z powodu obaw o ryzyka związane z AI. Kilku innych z tych samych powodów odeszło w ostatnich latach z OpenAI i innych firm.
O narastających ryzykach mówił w ostatnich dniach też główny badacz OpenAI, Jakub Pachocki, który przestrzegał m.in. przed coraz trudniejszym zbadaniem procesów "myślowych" zaawansowanych modeli.
"Obawiam się, że nikt nie jest przygotowany na konsekwencje ciągłego, szybkiego wzrostu inteligencji maszyn" – napisał w niedzielę na blogu. Wezwał w nim do skoordynowanego spowolnienia w branży i państwowej interwencji.
Coxon ogłosił swoją decyzję w dniu, w którym OpenAI poinformowało, że jego najbardziej zaawansowany, niepublikowany jeszcze model rozwikłał nierozwiązany od niemal stulecia problem matematyczny, znany jako równania Naviera-Stokesa – jeden z siedmiu "problemów milenijnych" Instytutu Matematycznego Claya.
Ogłoszenie wywołało kontrowersje i podejrzenia, że OpenAI wykorzystało pracę dwójki matematyków - w tym jednego pracownika Anthropica – którzy zbliżyli się do rozwiązania problemu i konsultowali się z ChatemGPT. OpenAI przekonywało, że nie wykorzystało świadomie wkładu naukowców, lecz nie da się wykluczyć, że wprowadzane przez nich do ChataGPT dane mogły pomóc ulepszyć model.
źródło: PAP
