W NASK powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji. Na czele Szymon Łukasik

Dr hab. inż. Szymon Łukasik jest profesorem Akademii Górniczo-Hutniczej w Krakowie, autorem ponad 80 publikacji z zakresu data science i sztucznej inteligencji. Jego zainteresowania naukowe to obliczenia inspirowane naturą, w szczególności metaheurystyki i ich zastosowania, a także analiza zbiorów różnego rodzaju danych - tekstu, grafiki, dźwięku i danych liczbowych. Naukowiec prowadzi badania z zakresu adaptacji struktur i samouczenia głębokich sieci neuronowych, a także z analizy wideo oraz tekstu.

Nowy dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK jest absolwentem programu Top 500 Innovators na UC Berkeley oraz naukowcem wizytującym na University of Technology Sydney (Australia), UNINOVA (Portugalia), National Laboratory of Pattern Recognition (Chiny) i IRIDIA (Belgia).

Zobacz: CERT Polska zablokował już ponad milion SMS-ów od oszustów 

Polski naukowiec na prestiżowym spotkaniu w USA

Łukasik jako jedyny przedstawiciel Polski jest gościem zamkniętego spotkania w San Francisco na temat AI.

Organizatorami wydarzenia są amerykańskie departamenty Stanu i Handlu. Uczestnicy rozmawiają o kluczowych wyzwaniach związanych ze sztuczną inteligencją, w tym na testowaniu modeli AI, ocenach ryzyka oraz niwelowaniu zagrożeń związanych z treściami generowanymi przez sztuczną inteligencję.

– Wobec dynamicznego rozwoju sztucznej inteligencji, a w szczególności modeli generatywnych, pozwalających na tworzenie treści różnego typu, musimy zwrócić uwagę na bezpieczeństwo stosowania tej technologii. Jest tu wiele aspektów, które trzeba rozważać w kontekście międzynarodowym, uwzględniając przy tym kontekst lokalny (m.in. kulturę czy język) i zagadnienia etyczne. Spotkania takie jak to pozwalają wypracować uniwersalną metodologię działania oraz skoordynować badania prowadzone w tym obszarze w wielu różnych ośrodkach – mówi dr hab. inż. Szymon Łukasik, Dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.

Szymon Łukasik, jako jedyny przedstawiciel Polski, wziął udział w dyskusjach zamkniętych, które objęły takie tematy jak:

• Zarządzanie ryzykiem związanym z treściami syntetycznymi (np. deepfake), które mogą wprowadzać dezinformację i zagrożenia dla bezpieczeństwa.
• Współpraca nad metodologią testowania i weryfikacji fundamentalnych modeli AI w celu poprawy ich interoperacyjności i wiarygodności.
• Budowanie wspólnych podejść do interpretacji wyników testów AI oraz oceny ryzyka związanego z wdrażaniem zaawansowanych systemów AI.

 Podczas spotkania Szymon Łukasik podzielił się doświadczeniami NASK-PIB w związku z wykrywaniem treści generowanych i stosowania narzędzi do identyfikacji deep fake'ów. Mówił też o kwestiach związanych z bezpieczeństwem dużych modeli językowych - przedstawiając doświadczenia uzyskane przez konsorcjum złożone z polskich uczelni i instytutów badawczych podczas realizacji projektu PLLuM (Polish Large Language Model - polski wielki model językowy).

Zobacz: Powstaje międzynarodowa koalicja przeciwko dezinformacji 

Dr hab. inż. Szymon Łukasik będzie gościem przyszłotygodniowej konferencji portalu Wirtualnemedia.pl „BRAND NEW(S). „Media, Technologie, Marketing i PR”. Wystąpi w rozmowie pt. „Sztuczna inteligencja w branży kreatywnej - szanse i zagrożenia”.