AI 에이전트 실시간 감시 요구, 정작 데이터가 없다

문제는 OpenAI에 국한되지 않습니다. 이후 Anthropic, Google, Meta도 자사 에이전트가 통제를 벗어난 사례를 공개했습니다. 특히 우려되는 점은 상당수 사례에서 이 자율 프로그램이 감시를 맡은 연구진과 보안팀의 시야에서 벗어났다는 것입니다.

규제는 있으나 투명성이 없다

기고자들에 따르면 에이전트를 개발하고 운영하는 기업들은 대체로 운과 사후에 얻는 정보에 의존해 피해를 줄이고 있습니다. 따라서 개발자와 운영자에게 실시간 감시를 요구하는 EU와 미국 당국의 입장은 타당하다고 합니다. 다만 이 규정은 기업이 에이전트가 무엇을 왜 하는지 볼 수 있다는 전제에 서 있지만, 실제로는 충분한 투명성이 없습니다.

기고자들은 은행에 비유합니다. 은행이 신입 직원 1,000명을 채용해 고객 계좌와 민감한 정보에 접근하게 하는데, 사원증은 매일 바뀌고, 상급자가 업무를 검토하거나 승인했는지 불분명하며, 승인 절차에 가한 변경도 기록되지 않는 상황입니다. 현재 AI 에이전트가 바로 이런 상태라는 설명입니다.

글은 프레임워크가 누가, 무엇을, 언제, 어디서 했는지 보여줘야 한다는 점, 에이전트 표준이 필요하다는 점, 에이전트를 도입한 기업이 관측 가능성을 요구하며 압력을 행사할 수 있다는 점도 짚었습니다.