O decyzji firmy poinformował jej szef Dario Amodei, na dzień przed ultimatum wyznaczonym przez szefa Pentagonu Pete'a Hegsetha. Jak napisał w oświadczeniu, choć jego firma popiera współpracę na rzecz bezpieczeństwa narodowego kraju i dotąd nie podejmowała żadnych decyzji ad hoc o ograniczeniu użycia swoich produktów, to nie może zrezygnować z postulatów, by umowa z Pentagonem zawierała zabezpieczenia przed użyciem AI do masowej inwigilacji wewnętrznej oraz do broni autonomicznej, podejmującej decyzje bez udziału człowieka (zwanej przez krytyków "robotami-zabójcami").
Amodei stwierdził, że nie jest całkowicie przeciwny broni autonomicznej w tym drugim przypadku, lecz zaznaczył, że przy obecnym stanie techniki takie zastosowanie byłoby niebezpieczne.
"Zaproponowaliśmy bezpośrednią współpracę z Ministerstwem Wojny w zakresie badań i rozwoju, aby poprawić niezawodność tych systemów, ale Ministerstwo nie przyjął tej oferty. Ponadto, bez odpowiedniego nadzoru, nie można polegać na w pełni autonomicznej broni, która będzie w stanie wykonywać krytyczne osądy, jakie wykazują na co dzień nasi wysoko wyszkoleni, profesjonalni żołnierze. Muszą być one rozmieszczane z odpowiednimi zabezpieczeniami, których obecnie brakuje" – napisał szef Anthropic.
Anthropic może trafić na czarną listę w USA
Amodei potwierdził wcześniejsze doniesienia mediów, że Pentagon zagroził jego firmie nie tylko usunięciem produktów firmy z systemów Pentagonu, lecz również formalnym uznaniem za "zagrożenie dla łańcucha dostaw", co jest sankcją zarezerwowaną dotąd dla firm z państw wrogich USA.
Oznaczenie to wiąże się z koniecznością zakończenia współpracy z firmą przez wszystkich kontrahentów rządu USA – a tymi są niemal wszystkie największe amerykańskie firmy. Założyciel Anthropic dodał też, że Pentagon groził również użyciem Ustawy o Produkcji Obronnej, aby wymusić usunięcie zabezpieczeń.
"Te dwa ostatnie zagrożenia są z natury sprzeczne: jedno określa nas jako zagrożenie dla bezpieczeństwa, drugie określa Claude'a jako niezbędnego dla bezpieczeństwa narodowego" – zauważył Amodei. "Niemniej jednak, te groźby nie zmieniają naszego stanowiska: nie możemy z czystym sumieniem przystać na ich żądanie".
Anthropic, jest jedyną spółką, której produkty używane są w niejawnych rządowych zasobach, a według "Washington Post", jego model Claude został też użyty podczas operacji pojmania przywódcy Wenezueli Nicolasa Maduro. Wartość obecnego kontraktu z Pentagonem to 200 mln dol. Anthropic jest obecnie wyceniany na 380 mld dol.
Do ogłoszenia firmy dochodzi dzień po tym, jak Anthropic złagodził swoje dotychczasowe stanowisko dotyczące bezpieczeństwa swoich modeli AI: o ile dotychczas firma stanowczo mówiła, że nie zahamuje swoje prace nad modelem, jeśli jego zdolności przewyższą zdolności firmy do jego kontroli i zapewnienia bezpieczeństwa. Teraz, firma twierdzi że nie może sobie na to pozwolić, jeśli jej konkurenci nie będą stosować tych samych zabezpieczeń. Ostrożne podejście do bezpieczeństwa było dotąd główną cechą podkreślaną przez firmę.
Rzecznik Pentagonu Sean Parnell z jednej strony zaprzeczył w czwartek, by Pentagon miał zamiar używać AI do masowej inwigilacji – na co, jak zaznaczył, nie pozwala prawo – lub broni autonomicznej, lecz z drugiej zażądał, by firma zrezygnowała z postulatów.
"Oto, o co prosimy: Pozwólcie Pentagonowi korzystać z modelu Anthropic do wszystkich zgodnych z prawem celów" – napisał Parnell na platformie X.
"Nie pozwolimy, aby jakakolwiek firma dyktowała nam warunki dotyczące sposobu podejmowania decyzji operacyjnych. Mają czas do godziny 17:01 czasu wschodnioamerykańskiego (23.01 w Polsce – PAP) w piątek na podjęcie decyzji. W przeciwnym razie zakończymy współpracę z Anthropic i uznamy ją za zagrożenie dla łańcucha dostaw dla DOW (Ministerstwa Wojny)" – dodał.
Źródło: PAP
