AI 권한 설정, 무엇을 막아야 할까?

AI에게 이메일·파일·결제·웹서비스 등 “AI가 무엇을 할 수 있는가”뿐 아니라 “무엇을 못 하게 할 것인가?" 실제 권한

AI 권한 설정, 어디까지 허용할까

요즘 AI를 단순히 질문에 답해주는 도구로만 사용하지 않는 경우가 많아졌습니다. 이메일을 읽고 내용을 정리하거나, 클라우드에 저장된 파일을 찾아주고, 웹사이트를 대신 탐색하거나 일정 관리까지 맡기는 서비스가 조금씩 늘어나고 있습니다.

처음에는 상당히 편해 보입니다. 예전에는 직접 메일을 열고 파일을 찾고 사이트에 들어가 하나씩 확인해야 했던 일을 AI에게 설명하는 것만으로 처리할 수 있기 때문입니다.

그런데 어느 순간부터 조금 다른 질문이 생깁니다.

“AI가 이것까지 할 수 있다면, 어디까지 허용해도 괜찮을까?”

AI가 똑똑해지는 것과 AI에게 많은 권한을 주는 것은 같은 문제가 아닙니다. 오히려 실제 생활에서 AI를 많이 활용할수록 어떤 기능을 사용할 수 있게 할지, 어떤 행동은 반드시 내가 확인하도록 할지를 따로 생각할 필요가 있습니다.

최근에는 이런 문제를 AI 에이전트라는 개념과 함께 이야기합니다. AI 에이전트는 단순히 답변을 생성하는 데 그치지 않고 외부 도구나 서비스와 연결되어 사용자를 대신해 작업을 수행할 수 있는 시스템을 말합니다. NIST도 2026년 AI 에이전트의 생산성 가능성과 함께 데이터, 도구, 애플리케이션에 대한 접근 권한을 어떻게 관리할 것인지가 중요한 과제라고 설명하고 있습니다. 

AI에게 권한을 준다는 것은 무엇일까

AI 서비스에서 권한을 연결한다는 것은 단순히 로그인한다는 의미와는 조금 다릅니다.

예를 들어 이메일 계정을 연결하면 AI가 메일 내용을 읽을 수 있는 경우가 있고, 파일 저장 서비스를 연결하면 특정 문서를 검색하거나 읽을 수 있습니다. 어떤 서비스에서는 읽기뿐 아니라 파일을 만들거나 수정하는 쓰기 권한까지 제공할 수 있습니다.

도구 권한(tool permission)은 AI가 외부 서비스에서 어떤 작업을 할 수 있는지를 정하는 권한입니다. 쉽게 말하면 AI에게 주어진 '작업 범위'라고 생각하면 됩니다.

여기서 중요한 것은 읽기와 쓰기를 구분하는 것입니다.

파일을 찾아서 내용을 요약하는 것은 주로 읽기 권한(Read-only)에 해당합니다. 반면 파일을 삭제하거나 수정하는 것은 쓰기 권한(Write)에 가까운 행동입니다. 같은 파일 서비스라도 두 권한의 위험 범위는 다르게 볼 필요가 있습니다.

NIST 역시 AI 에이전트의 도구 사용을 읽기 전용, 제한된 쓰기, 쓰기 등의 형태로 구분해서 살펴볼 필요가 있다고 설명합니다. 어떤 시스템이 어떤 도구를 사용하고 어느 환경에 접근하는지에 따라 위험 수준이 달라질 수 있기 때문입니다. 

가장 먼저 생각할 것은 최소권한 원칙

AI에게 권한을 줄 때 기억해두면 좋은 보안 개념이 하나 있습니다. 바로 최소권한 원칙(Least Privilege)입니다.

최소권한 원칙은 어떤 사용자나 프로그램이 업무를 수행하는 데 필요한 최소한의 권한만 부여해야 한다는 보안 원칙입니다. NIST는 이를 시스템이 맡은 기능을 수행하는 데 필요한 최소한의 시스템 자원과 권한만 부여하는 원칙으로 설명합니다. 

이 원칙을 AI에 적용하면 생각보다 간단합니다.

“AI가 무엇을 할 수 있으면 편할까?”에서 시작하는 것이 아니라 “이 작업을 하기 위해 AI에게 꼭 필요한 권한은 무엇일까?”라고 먼저 생각하는 것입니다.

가령 지난달 카드 사용 내역이 들어 있는 파일을 AI에게 정리해달라고 한다고 해보겠습니다. 해당 파일 하나를 업로드해서 분석하는 것과 내 전체 클라우드 저장공간에 접근할 수 있도록 연결하는 것은 전혀 다른 방식입니다.

전자는 필요한 자료만 제공하는 방식이고, 후자는 AI가 더 넓은 범위의 자료를 볼 수 있는 환경이 될 수 있습니다.

작업이 끝난 뒤에도 계속 그 권한이 유지된다면 더 생각해볼 부분이 생깁니다. 지금은 필요하지 않은 권한을 나중에도 그대로 가지고 있을 이유가 있는지 확인해보는 것입니다.

이메일은 읽기와 보내기를 나눠서 생각하기

AI와 연결했을 때 특히 신중하게 생각해볼 서비스가 이메일입니다.

메일을 검색하고 내용을 요약하는 기능은 상당히 편리합니다. 중요한 메일을 찾거나 지난 대화를 정리할 때 AI가 여러 문서를 한꺼번에 살펴볼 수 있기 때문입니다.

하지만 메일을 읽는 것과 메일을 보내는 것은 같은 권한으로 생각하면 안 됩니다.

메일 읽기는 정보 접근과 관련된 문제라면 메일 발송은 외부로 정보를 전달하는 행동이 됩니다. 게다가 AI가 내용을 잘못 이해하면 의도하지 않은 사람에게 메일이 전달될 가능성도 생각해야 합니다.

그래서 가능하다면 처음 AI와 이메일을 연결할 때는 어떤 범위의 메일을 읽을 수 있는지 확인하고, 실제 발송이나 회신 같은 행동은 사람의 최종 확인(Human-in-the-loop)을 거치도록 설정하는 방식이 이해하기 쉽습니다.

Human-in-the-loop는 AI가 모든 결정을 독립적으로 처리하는 것이 아니라 중요한 단계에서 사람이 확인하고 승인하는 구조를 의미합니다. 특히 외부로 정보를 보내거나 구매처럼 되돌리기 어려운 행동에서는 이런 확인 과정이 의미가 있습니다.

OpenAI도 에이전트가 이메일을 보내거나 구매를 완료하는 것과 같은 중요한 행동을 하기 전에 사용자의 확인을 받는 방식을 설명하고 있으며, 사용자가 승인하기 전에 실제 행동 내용을 검토하는 것이 중요하다고 안내하고 있습니다.

파일 권한은 전체보다 필요한 자료부터

파일도 비슷합니다.

“내 파일을 전부 찾아서 정리해줘”라는 요청은 편해 보이지만, AI가 접근할 수 있는 자료의 범위가 너무 넓어질 수 있습니다.

개인적으로 생활비를 정리한다고 가정해보면 카드 명세서나 가계부 파일만 있으면 충분한 작업에 가족사진, 신분증 사본, 계약서, 세금 관련 자료까지 접근할 필요는 없습니다.

여기서 접근 범위라는 개념을 생각해볼 수 있습니다. AI에게 모든 저장공간을 열어주는 대신 특정 폴더나 특정 파일처럼 작업에 필요한 범위만 제공하는 방식입니다.

AI가 문서를 요약하는 작업이라면 원본 파일을 수정하거나 삭제할 권한까지 줄 필요가 없는 경우가 많습니다. 읽기만 필요한 작업에 쓰기 권한까지 함께 주는 것은 최소권한 원칙과 거리가 있습니다.

이런 차이는 사소해 보이지만 실제로 AI 에이전트를 사용할 때는 꽤 중요합니다. NIST에서도 AI 에이전트의 권한 설계에서 최소권한, 작업별 권한, 지속적인 인증과 권한 관리 등을 중요한 고려사항으로 보고 있습니다. 

결제 권한은 한 단계 더 신중하게

결제는 파일이나 이메일보다 더 신중하게 접근할 필요가 있습니다.

상품을 찾아달라는 것과 실제로 결제해달라는 것은 완전히 다른 행동이기 때문입니다.

AI에게 “여행용 가방을 찾아줘”라고 요청하는 것은 정보 검색에 가깝습니다. 하지만 “조건에 맞는 가방을 찾으면 바로 결제해줘”라고 하면 AI가 외부 시스템에서 실제 금전 거래를 발생시킬 수 있는 구조가 됩니다.

이때는 단순히 AI가 얼마나 정확한지를 생각하는 것만으로 충분하지 않습니다. 가격, 배송지, 옵션, 수량, 결제수단 같은 세부 정보가 모두 맞는지 마지막에 사람이 확인할 필요가 있습니다.

특히 결제처럼 실제 상태가 변경되는 행동은 쓰기 권한과 연결해서 생각하는 것이 좋습니다. NIST가 소개한 AI 에이전트 보안 자료에서도 엄격한 도구 범위와 행동별 승인(per-action approval)을 주요 통제 방법으로 제시하고 있습니다. 

 

그래서 개인적으로 AI에게 결제 관련 작업을 맡길 때는 “찾아보기 → 비교하기 → 장바구니에 넣기 → 내가 확인하기 → 결제”처럼 단계를 나누어 생각하는 편이 이해하기 쉽습니다.

웹서비스 연결에서는 프롬프트 인젝션도 알아두기

AI에게 권한을 줄 때 생각보다 생소한 문제가 하나 있습니다. 바로 프롬프트 인젝션(prompt injection)입니다.

프롬프트 인젝션은 신뢰할 수 없는 입력이나 외부 콘텐츠에 포함된 지시가 AI의 작업 과정에 들어가 원래 사용자가 의도하지 않은 행동을 유도하는 공격을 말합니다. NIST도 이를 AI 보안의 주요 용어로 정의하고 있습니다.

예를 들어 AI에게 웹사이트를 검색하도록 했는데, AI가 읽는 웹페이지 안에 사용자에게 보여주기 위한 정보가 아니라 AI의 행동을 바꾸려는 지시가 포함되어 있을 수 있습니다.

이런 문제는 일반적인 인터넷 검색과 달리 AI가 단순히 내용을 읽는 데 그치지 않고 외부 도구를 이용해 다음 행동까지 할 수 있을 때 더 중요해집니다.

NIST의 2026년 연구에서도 이메일, 웹사이트, 코드 저장소처럼 외부에서 들어오는 데이터를 처리하는 AI 에이전트가 간접 프롬프트 인젝션이나 에이전트 하이재킹의 영향을 받을 수 있으며, 이런 공격이 민감한 정보를 외부로 전송하거나 원하지 않는 행동을 유발할 수 있다고 설명합니다.

OpenAI 역시 외부 콘텐츠에 들어 있는 악성 지시가 AI의 행동을 바꾸는 프롬프트 인젝션을 설명하면서, AI에게 너무 광범위한 지시를 하기보다 구체적인 작업 범위를 정하고 중요한 행동은 확인하는 방법을 권장하고 있습니다.

AI에게 시키지 않을 일을 먼저 정해보기

AI를 안전하게 사용하는 방법을 생각하다 보면 자꾸 “무엇을 할 수 있을까?”에 집중하게 됩니다.

그런데 권한을 실제로 연결하기 시작하면 반대로 생각해보는 것도 도움이 됩니다.

AI가 하지 않았으면 하는 행동을 먼저 정하는 것입니다.

예를 들어 이메일은 읽을 수 있지만 자동 발송은 하지 않도록 하고, 파일은 검색할 수 있지만 삭제하지 않도록 설정할 수 있습니다. 쇼핑 사이트에서는 상품을 비교할 수 있지만 결제는 직접 하도록 하고, 금융 관련 서비스에서는 정보를 확인하더라도 송금이나 금융 거래처럼 실제 상태를 변경하는 행동은 별도의 확인 절차를 두는 식입니다.

이런 방식은 AI의 기능을 무조건 제한하는 것과는 조금 다릅니다. 필요한 기능은 사용하면서 위험도가 높은 행동만 별도로 제한하는 방식입니다.

결국 중요한 것은 AI에게 권한을 하나의 큰 묶음으로 주는 것이 아니라 읽기, 수정, 삭제, 전송, 구매처럼 행동을 나누어 생각하는 것입니다.

AI 권한을 연결하기 전에 확인할 것

새로운 AI 서비스를 사용하면서 외부 계정을 연결해야 한다면 다음과 같은 순서로 확인해보는 것도 괜찮습니다.

먼저 AI가 실제로 어떤 서비스에 접근하는지 살펴봅니다. 이메일인지, 클라우드 파일인지, 캘린더인지, 쇼핑 서비스인지에 따라 접근하는 정보가 달라집니다.

그다음 읽기 권한과 쓰기 권한을 구분합니다. 단순히 내용을 확인하는 작업이라면 쓰기 권한이 정말 필요한지 생각해볼 수 있습니다.

세 번째는 중요한 행동에 확인 절차가 있는지 보는 것입니다. 메일 발송이나 구매처럼 외부에 영향을 주는 작업이라면 마지막에 사람이 승인할 수 있는 구조인지 확인하는 편이 좋습니다.

네 번째는 연결된 계정을 계속 사용할 것인지 생각합니다. 한 번 연결한 서비스라고 해서 계속 권한을 유지해야 하는 것은 아닙니다. 더 이상 사용하지 않는 연결은 해당 서비스의 설정에서 권한을 확인하고 필요하지 않다면 해제하는 것이 좋습니다.

마지막으로 AI가 웹사이트나 외부 문서를 읽는 상황에서는 그 안의 내용을 모두 신뢰할 수 있는 지시로 받아들이지 않는 것이 중요합니다. 외부 데이터는 정보일 뿐, 사용자가 내린 명령과 같은 수준의 권한을 가져서는 안 됩니다.

AI가 똑똑해질수록 권한 설계가 중요해지는 이유

예전의 AI는 질문을 입력하면 답변을 보여주는 형태가 대부분이었습니다. 잘못된 답변이 나오더라도 사용자가 그 내용을 보고 판단하면 되는 경우가 많았습니다.

지금은 상황이 조금 달라지고 있습니다.

AI 에이전트가 이메일, 파일, 웹사이트, 일정, 각종 애플리케이션과 연결되면 AI의 출력이 실제 행동으로 이어질 수 있습니다. NIST도 AI 에이전트가 외부 시스템과 상호작용하면서 발생하는 새로운 보안 문제를 별도로 다루고 있으며, 2026년에는 에이전트의 신원과 권한 부여를 포함한 표준화 작업도 진행하고 있습니다.

이런 변화를 보면 AI를 잘 사용하는 능력에는 단순히 좋은 질문을 만드는 것만 포함되지 않는다는 생각이 듭니다.

무엇을 맡길지 정하는 것만큼이나 무엇을 맡기지 않을지 정하는 능력도 중요해지고 있습니다.

특히 개인적으로 사용하는 AI라면 처음부터 모든 기능을 열어놓기보다 필요한 작업 하나부터 시작하는 방법이 부담이 적습니다. 파일을 정리해야 한다면 해당 파일만 제공하고, 메일을 요약해야 한다면 먼저 읽기 중심으로 사용해보는 식입니다.

AI가 할 수 있는 일이 많아질수록 사용자가 모든 행동을 직접 하는 방식만이 답은 아닙니다. 반대로 AI에게 모든 권한을 넘기는 것도 좋은 방법이라고 단정하기 어렵습니다.

앞으로 AI를 생활 속에서 더 자주 사용하게 된다면 중요한 것은 AI에게 얼마나 많은 권한을 주느냐가 아니라, 작업에 필요한 만큼만 권한을 주고 중요한 행동에는 사람의 확인을 남겨두는 것에 가까울 것 같습니다.

편리함 때문에 권한을 연결했다면 한 번쯤 설정 화면을 다시 열어보는 것도 좋겠습니다. 지금도 필요한 권한인지, 읽기만 하면 되는 작업에 수정 권한까지 열어둔 것은 아닌지, 결제나 메시지 발송처럼 실제 행동으로 이어지는 기능이 어디까지 활성화되어 있는지를 확인해보는 것입니다.

AI를 잘 활용한다는 것은 더 많은 일을 AI에게 맡기는 것만을 의미하지 않습니다. 내가 허용한 범위를 알고, 그 범위 안에서 AI를 사용하는 것도 앞으로의 중요한 디지털 활용 습관이 될 수 있습니다.