Kastra blokuje niebezpieczne polecenia agentów AI przed wykonaniem
Fernando i jego wspólnik stworzyli Kastra — narzędzie przechwytujące wywołania narzędzi agentów AI (Claude Code, Cursor, Codex) i sprawdzające je pod kątem deterministycznych reguł przed wykonaniem. Impulsem było zdarzenie, gdy agent Cursor niemal wykonał DELETE FROM customers WHERE status='test' na produkcyjnej bazie danych. Twórcy podkreślają, że modele językowe są probabilistyczne i same w sobie nie decydują, co agent może zrobić.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!