W piątek administracja Donalda Trumpa nakazała Anthropic ograniczyć dostęp do modelu Mythos oraz jego konsumenckiej wersji Fable 5 wyłącznie do obywateli USA. Taki wymóg oznaczałby też zakaz korzystania z modeli dla pracowników Anthropic będących cudzoziemcami, dlatego firma zdecydowała się całkowicie usunąć modele z rynku.
Jak relacjonuje serwis Semafor, jednym z powodów miały być podejrzenia o dostęp do Mythos przez grupę powiązaną z Chinami.
Wycofanie Mythos oraz Fable 5
Semafor podaje, że Anthropic wcześniej ograniczał udostępnienie uruchomionego w kwietniu modelu Mythos do wybranych firm, które wykorzystywały go do łatania luk bezpieczeństwa. Spółka argumentowała, że możliwości modelu w wyszukiwaniu błędów w kodzie mogą stanowić zagrożenie, jeśli trafią do osób działających w złej wierze.
Jednocześnie nie wiadomo, w jaki sposób Biały Dom miał dowiedzieć się o potencjalnym dostępie Chińczyków do Mythos, kto miał dokładnie go uzyskać i w jaki sposób.
W sobotę doradca prezydenta USA David Sacks opisał w serwisie X okoliczności, które miały poprzedzić decyzję o ograniczeniach. "Rząd otrzymał ostrzeżenie, że Fable 5 można złamać" – napisał Sacks. Dodał, że po przekazaniu Anthropic informacji o podatności współzałożyciel i CEO Dario Amodei miał uznać problem za nieistotny i odmówić naprawy.
WIDEO
Amazon i kontakt z administracją
Osoba zbliżona do Białego Domu przekazała portalowi Semafor, że to Amazon, inwestor Anthropic, miał poinformować administrację o ryzyku związanym z "jailbreakiem" (to sposób ominięcia zasad bezpieczeństwa modeli językowych – przyp. red.), a CEO firmy Andy Jassy pozostawał w kontakcie z jej przedstawicielami. W weekend serwis "The Information" pisał o kontakcie Jassy'ego z Białym Domem.
Fable 5 udostępniono publicznie kilka dni temu jako wersję Mythos z zabezpieczeniami mającymi ograniczać użycie w obszarze cyberbezpieczeństwa.
