Brex stworzył platformę CrabTrap do kontrolowania agentów AI w sieci

Fintech Brex opracował wewnętrzną platformę CrabTrap — otwartoźródłowy proxy HTTP/HTTPS, który przechwytuje cały ruch sieciowy agentów AI, analizuje reguły polityk i wykorzystuje model LLM jako sędziego, by zatwierdzać lub odrzucać żądania. CEO Pedro Franceschi wyjaśnił, że tradycyjne zabezpieczenia nie nadążały za tym, co agenty robiły z prawdziwymi tokenami API i kontami serwisowymi. CrabTrap ma być dowodem na to, że warstwa sieciowa jest dotąd niewykorzystanym punktem egzekwowania zasad bezpieczeństwa.

Więcej na ten temat

💻 Technologia Firmy wdrażają agenty AI bez nadzoru, choć połowa miała już wpadkę produkcyjną VentureBeat · 15d temu 💻 Technologia ReasonGate – narzędzie blokujące ataki prompt injection w modelach LLM Hacker News · 9d temu 💻 Technologia Backdoor ukryty w modelu LLM — nagroda 51 200 dol. za jego znalezienie Hacker News · 10d temu

Więcej na ten temat

💻 Technologia Firmy wdrażają agenty AI bez nadzoru, choć połowa miała już wpadkę produkcyjną VentureBeat · 15d temu 💻 Technologia ReasonGate – narzędzie blokujące ataki prompt injection w modelach LLM Hacker News · 9d temu 💻 Technologia Backdoor ukryty w modelu LLM — nagroda 51 200 dol. za jego znalezienie Hacker News · 10d temu