보안
신뢰할 수 없는 텍스트를 읽는 에이전트를 위한 프롬프트 인젝션 방어
웹 페이지와 파일을 읽는 에이전트는 그 안에 숨겨진 지시사항에 의해 탈취당할 수 있습니다. 여기에 프롬프트 인젝션을 막는 아키텍처가 있습니다.
태그
웹 페이지와 파일을 읽는 에이전트는 그 안에 숨겨진 지시사항에 의해 탈취당할 수 있습니다. 여기에 프롬프트 인젝션을 막는 아키텍처가 있습니다.
광범위한 쓰기 권한과 무제한 배포 권한을 가진 자동화 봇은 한 번의 잘못된 실행을 전체 시스템 장애로 만듭니다. 영향 범위를 줄이는 방법은 다음과 같습니다.