연구 성과

프롬프트 인젝션 방어를 위한 계층형 입력 검증 방법

특허

프롬프트 인젝션 방어를 위한 계층형 입력 검증 방법

외부 문서를 읽어 답하는 에이전트는 문서 안에 숨은 지시문에 속아 의도하지 않은 동작을 할 수 있습니다. 나루AI는 이를 막기 위해 입력을 사용자 지시, 시스템 지시, 외부 문서 세 계층으로 나누고 계층마다 허용되는 동작을 제한하는 방법을 출원했습니다.

이 방법은 나루 가드의 정책 엔진에 적용되어 있으며, 정책은 관리자가 화면에서 조정할 수 있습니다.

목록
데모 목록by EKSOFT 이케이소프트