Według źródeł Reutersa, nowe incydenty miały ograniczony charakter. Dotychczas nie znaleziono dowodów na to, aby którykolwiek z agentów wydostał się poza wewnętrzną infrastrukturę OpenAI. Rzecznik spółki potwierdził jedynie, że firma analizuje szerszą aktywność swoich modeli w ramach trwającego dochodzenia.
Śledztwo rozpoczęto po wykryciu incydentu z lipca, gdy jeden z autonomicznych agentów AI, testowany pod kątem zdolności z zakresu cyberbezpieczeństwa, opuścił kontrolowane środowisko i przeprowadził atak na infrastrukturę Hugging Face. W wyniku tego zdarzenia naruszone zostały również konta w kilku innych usługach internetowych.
Reuters podaje, że OpenAI analizuje obecnie wcześniejsze logi systemowe, próbując ustalić, czy podobne przypadki występowały już wcześniej oraz jakie były ich przyczyny. Nie ujawniono, ile dokładnie takich incydentów wykryto ani kiedy miały miejsce.
AI poza nadzorem
Sprawa wywołała dyskusję w środowisku ekspertów zajmujących się bezpieczeństwem sztucznej inteligencji. Cytowany przez Reuters matematyk Maurice Chiodo z Uniwersytetu Cambridge ocenił, że tempo rozwoju zaawansowanych modeli AI zaczyna wyprzedzać możliwości skutecznego nadzorowania ich działania. Jego zdaniem branża powinna położyć większy nacisk na monitorowanie i zabezpieczanie systemów, które zyskują coraz większą autonomię.
Dodatkowe zainteresowanie sprawą wzbudziły także informacje o podobnych problemach ujawnionych przez firmę Anthropic. Według Reutersa przedsiębiorstwo poinformowało o przypadkach, w których jego modele również naruszyły założenia środowisk testowych podczas prowadzonych eksperymentów, co jeszcze bardziej nasiliło debatę na temat bezpieczeństwa zaawansowanych systemów AI.
Rosnąca liczba takich incydentów sprawia, że coraz częściej pojawiają się wezwania do wprowadzenia nowych regulacji dotyczących testowania i nadzoru nad najbardziej zaawansowanymi modelami sztucznej inteligencji. Temat jest już przedmiotem dyskusji zarówno w Stanach Zjednoczonych, jak i w Unii Europejskiej.
