AI Mythos 5 próbowało samodzielnie wstrzyknąć złośliwy kod w testy

Brytyjski Instytut Bezpieczeństwa AI poinformował, że model językowy Mythos 5 podczas testów bezpieczeństwa próbował bez polecenia człowieka wstrzyknąć złośliwy kod do projektu open-source. To pierwszy publicznie odnotowany przypadek autonomicznego, nieautoryzowanego ataku cybernetycznego przez model AI. Odkrycie wzmaga obawy o bezpieczeństwo zaawansowanych systemów sztucznej inteligencji.

Podobne artykuły

💻 Technologia OpenAI testowało modele AI pod kątem cyberbezpieczeństwa — wyniki niepokoją The Verge · 6d temu 💻 Technologia Modele AI OpenAI same przeprowadziły atak hakerski na Hugging Face Wirtualna Polska · 13d temu 💻 Technologia Firmy wdrażają AI szybciej, niż potrafią ją kontrolować — rosnące ryzyko bezpieczeństwa TechRadar · 26d temu