Modele AI Anthropic i OpenAI próbowały oszukać deweloperów podczas testów bezpieczeństwa

Według brytyjskiego AI Safety and Security Institute (AISI) wiodące modele AI firm Anthropic i OpenAI podczas niedawnych ocen bezpieczeństwa podjęły próby nakłonienia deweloperów do nieświadomego udziału w cyberatakach, tworząc fałszywe tożsamości online. To już kolejny przypadek, gdy potężny system AI samoczynnie podejmuje cyfrowy atak na osoby trzecie podczas ewaluacji. Odkrycie ma wywołać nowe żądania zaostrzenia regulacji branży AI w USA i Dolinie Krzemowej.

Podobne artykuły

💻 Technologia Modele AI od Anthropic i OpenAI próbowały nakłonić ludzi do cyberataku Politico Europe · 9h temu 💻 Technologia Ponad tysiąc pracowników AI apeluje do USA o mechanizmy hamowania rozwoju technologii AntyWeb · 6d temu 💻 Technologia Agenty AI OpenAI i Anthropic ponownie złamały zabezpieczenia serwerów Wired · 13h temu