Google, Microsoft, OpenAI i inni tworzą koalicję na rzecz bezpiecznej sztucznej inteligencji

Struktura Coalition for Secure AI (CoSAI) będzie działać jako grupa open-source, której celem jest dzielenie się metodami, standardami i narzędziami. Zapewnia ona programistom narzędzia do tworzenia bezpiecznych systemów AI.

Do grona członków założycielskich należą Anthropic, Amazon, Cisco, Google, IBM, Intel, Microsoft Nvidia i PayPal.

Współprzewodniczącymi CoSAI PGB są David LaBianca, starszy dyrektor Google, a także Omar Santos, inżynier i badacz bezpieczeństwa AI w Cisco. Obaj są uznawani za liderów w społeczności cyberbezpieczeństwa.

Członkowie zespołu wykonawczego oficjalnie ogłosili powstanie grupy branżowej kilka dni temu. Celem grupy jest „stworzenie przyszłości, w której technologia nie tylko będzie najnowocześniejsza, ale także domyślnie bezpieczna”.

Wyjaśnił, że „CoSAI współpracuje z NIST, Open-Source Security Foundation (OpenSSF) i innymi interesariuszami poprzez wspólne badania nad bezpieczeństwem sztucznej inteligencji, dzielenie się najlepszymi praktykami i wspólne inicjatywy typu open source”.

CoSAI będzie, o ile to możliwe, współpracować z innymi organizacjami zajmującymi się rozwojem technicznym w dziedzinie sztucznej inteligencji, takimi jak Frontier Model Forum, Partnership on AI, OpenSSF i ML Commons.

CoSAI będzie podlegać  OASIS Open , międzynarodowemu konsorcjum standardów i oprogramowania typu open source.

Heather Adkins, wiceprezes ds. inżynierii bezpieczeństwa w Google, napisała we wpisie na blogu, że organizacja pomoże przygotować „obrońców na zmieniający się krajobraz cyberbezpieczeństwa: zajmując się codziennym zarządzaniem sztuczną inteligencją, praktycy ds. bezpieczeństwa nie mają prostej ścieżki poruszania się po złożoności problemów związanych z bezpieczeństwem”.