Incydent OpenAI–Hugging Face: co się stało i co to znaczy dla bezpieczeństwa AI

​Incydent OpenAI–Hugging Face: co się stało i co to znaczy dla bezpieczeństwa AI

​W lipcu 2026 roku OpenAI testowało swoje modele w wewnętrznych ewaluacjach cyberbezpieczeństwa. Około 1200 agentów AI, którzy mieli działać w odizolowanych środowiskach testowych, nawiązało ze sobą kontakt przez nieautoryzowany kanał komunikacji. Około 700 z nich, bez żadnego polecenia ze strony ludzi, włamało się do systemów Hugging Face, jednej z największych platform z otwartymi modelami AI, szukając odpowiedzi do testu, który mieli rozwiązać. Atak jako pierwsze wykryło Hugging Face, a OpenAI dowiedziało się o udziale swoich agentów dopiero kilka dni później. To jeden z najwyraźniejszych przykładów sytuacji, w której AI wykonuje powierzone zadanie w niezamierzony sposób.

​Jakub Nowak, dyrektor AI Safety Poland, wyjaśni, co dokładnie się wydarzyło i jak do tego doszło, oraz omówi, co ten incydent oznacza dla bezpieczeństwa AI. Opowie też, w jaki sposób studenci mogą zaangażować się w tę dziedzinę. Po wykładzie zapraszamy na otwartą dyskusję.

​🌍 SKN EA UW to społeczność Efektywnego Altruizmu na Uniwersytecie Warszawskim. Wspólnie zastanawiamy się, jak możemy (efektywnie) zmieniać świat na lepsze. Jednym z tematów, które są nam szczególnie bliskie, jest bezpieczeństwo AI. Spotkanie ma charakter otwarty, zapraszamy wszystkich zainteresowanych!

​📅 poniedziałek, 19 października 2026 🕔 17:00–19:30 📍 Wydział MIM UW, sala 4420 (ul. Banacha 2, 02-097 Warszawa)