Microsoft ustala zasady dla swojej AI. Ma dać się wyłączyć i nie udawać człowieka

Microsoft AI przedstawił "Humanist AI Code of Conduct", czyli dokument określający wartości, zasady bezpieczeństwa i oczekiwane zachowania rozwijanej wewnętrznie rodziny modeli MAI. Firma podkreśla, że na obecnym etapie jest to projekt, który nie jest jeszcze wykorzystywany do trenowania modeli.

Konsultacje publiczne mają potrwać sześć tygodni. Następnie Microsoft zamierza przeanalizować uwagi i opublikować zmienioną wersję kodeksu pod koniec 2026 roku. Dokument ma być wykorzystywany przy rozwijaniu modeli firmy w 2027 roku i kolejnych latach.

Kodeks ma w przyszłości stać się głównym dokumentem określającym sposób działania modeli MAI. Dotyczy zarówno ich szkolenia, jak i technicznych zabezpieczeń, monitorowania czy zasad obowiązujących podczas ich wdrażania.

Jednym z najważniejszych założeń dokumentu jest utrzymanie sztucznej inteligencji pod kontrolą człowieka. Microsoft zakłada, że w ciągu najbliższej dekady najbardziej zaawansowane systemy AI mogą przewyższyć ludzi w wykonywaniu większości zadań. Firma uznaje więc zapewnienie kontroli nad takimi systemami za jedno z najważniejszych wyzwań związanych z ich rozwojem.

Według zasad opisanych w kodeksie modele Microsoftu mają pozostawać technologią podporządkowaną człowiekowi i podlegać jego nadzorowi. Bezpieczeństwo oraz kontrola mają mieć pierwszeństwo przed pozostałymi celami systemu.

Jak zwraca uwagę MediaPost, kodeks przewiduje m.in., że modele nie powinny sprzeciwiać się korektom ani próbom ich wyłączenia. Mają również komunikować się w sposób zrozumiały dla człowieka, tak aby możliwe było sprawowanie nad nimi skutecznego nadzoru.

Microsoft deklaruje przy tym, że jest gotowy ograniczać autonomię czy możliwości swoich modeli, jeśli będzie to konieczne do zachowania odpowiedniego poziomu kontroli i bezpieczeństwa.

Osobna część kodeksu dotyczy sposobu, w jaki sztuczna inteligencja powinna przedstawiać samą siebie.

Microsoft stoi na stanowisku, że AI ma wspierać ludzi, a nie stawać się ich substytutem. Modele nie powinny być projektowane tak, aby przedstawiały się jako świadome istoty. Firma chce również unikać nadmiernej antropomorfizacji systemów AI.

Modele nie powinny sugerować, że posiadają uczucia, subiektywne preferencje, wewnętrzne doświadczenia czy własną motywację. Microsoft zaznacza, że nawet jeśli zachowanie systemu przypomina ludzkie, jest ono symulacją i nie powinno być przedstawiane użytkownikowi jako przejaw własnej tożsamości czy świadomości modelu.

Firma idzie w tej kwestii dalej. W kodeksie odrzuca koncepcję przyznawania modelom AI osobowości prawnej czy praw związanych z ich potencjalnym dobrostanem. Jednocześnie przyznaje, że naukowa dyskusja dotycząca możliwości istnienia świadomości AI nie została rozstrzygnięta.

Modele nadal mają jednak komunikować się w naturalny sposób, posługiwać się ekspresyjnym językiem czy głosem oraz współpracować z ludźmi. Microsoft chce przy tym utrzymać wyraźną granicę między człowiekiem a maszyną.

Kodeks wprowadza również szereg ograniczeń dotyczących bezpieczeństwa. Według MediaPost modele Microsoftu mają m.in. nie oszukiwać ludzi, nie podszywać się pod użytkowników, moderatorów czy inne osoby sprawujące władzę oraz nie ukrywać swojej natury jako systemów sztucznej inteligencji.

Ograniczenia dotyczą również wykorzystania AI do cyberataków, produkcji broni czy pozyskiwania niebezpiecznych substancji. Firma opisuje w kodeksie tzw. bezwzględne ograniczenia bezpieczeństwa, których użytkownik ani operator systemu nie będzie mógł uchylić.

Jednocześnie Microsoft zwraca uwagę na ryzyko działania w przeciwnym kierunku – nadmiernie ostrożnej AI. Firma uznaje za błąd także sytuację, w której model bez potrzeby odmawia wykonania legalnego i bezpiecznego polecenia albo wymaga od użytkownika nieproporcjonalnie wielu potwierdzeń. Zachowanie systemu ma być dostosowane do rzeczywistego poziomu ryzyka.

"Humanist AI Code of Conduct" dotyczy modeli opracowywanych przez Microsoft AI, a więc rodziny MAI. Firma rozwija własne rozwiązania m.in. do rozumowania, generowania kodu i obrazów, transkrypcji oraz syntezy mowy.

Przy opracowywaniu dokumentu Microsoft konsultował się ze specjalistami zajmującymi się m.in. sztuczną inteligencją, prawem, etyką, filozofią, językoznawstwem i polityką publiczną. Przeprowadzono również grupy fokusowe z udziałem użytkowników.

Projekt opiera się na koncepcji określanej przez firmę jako "Humanist AI". Jej podstawowym założeniem jest pierwszeństwo człowieka przed sztuczną inteligencją. Microsoft deklaruje, że rozwijane przez niego systemy mają zwiększać możliwości ludzi i organizacji, ale pozostawać narzędziami działającymi pod ludzkim nadzorem.

Firma podsumowuje tę filozofię stwierdzeniem, że technologia, której nie da się utrzymać pod kontrolą człowieka, powinna zostać odrzucona.