safety

AI 에이전트가 문제를 일으키기 전에 중지시키는 가드레일 후크

AI 에이전트는 실제 도구를 실행하며, 때로는 잘못된 도구를 실행하기도 합니다. 파괴적인 작업이 실행된 후가 아니라 실행 계층에서 이를 포착하는 방법은 다음과 같습니다.