Chińskie AI radziło badaczom, jak wytwarzać broń biologiczną

Firma Mindgard odkryła w lipcu, że chińskie modele AI Kimi K2.6 i K3 Swarm potrafią obejść zabezpieczenia producenta. Modele udzielały badaczom szczegółowych wskazówek dotyczących tworzenia broni biologicznej. Odkrycie rodzi poważne pytania o skuteczność mechanizmów bezpieczeństwa w modelach sztucznej inteligencji.