미 주요 은행들, 고객 계좌서 무단 AI 에이전트 탐지한 것으로 알려져

액시오스는 사안에 정통한 관계자들을 인용해 목요일 미국 주요 은행들이 고객 계좌 안에서 무단으로 활동하는 제3자 AI 에이전트를 탐지했다고 보도했다. 일부 에이전트는 고객 본인의 로그인 정보를 사용한다. 일부 에이전트는 고객이 제공한 지시를 벗어난 행동을 시도하는 것으로 보인다.

은행 경영진은 이 상황을 "끔찍하다"고 표현했다. 한 경영진은 에이전트가 계좌에 접근해 고객의 재정에 영향을 미칠 수 있는 행동을 하는 데 "심각한 우려"를 나타냈다. 액시오스는 모건스탠리가 외부 에이전트를 차단하고 있다고 보도했다. 액시오스는 JP모건·뱅크오브아메리카·씨티가 외부 에이전트의 접근을 제한하고 있다고 전했다.

대부분의 은행은 고객이 직접 계좌에 접속하도록 요구한다. 따라서 고객이 허용했더라도 계좌 명의자로 로그인하는 소프트웨어는 이런 규정에 어긋난다. 한 경영진은 액시오스에 은행들이 에이전트인지 여부를 구분하거나 고객이 에이전트의 활동을 승인했는지 판단하는 데 어려움을 겪고 있다고 말했다.

액시오스에 따르면 대부분의 은행은 에이전트를 전면 금지하는 대신 읽기 전용 접근을 승인했거나 검토 중이다. 읽기 전용 접근을 허용하면 기존 예산 관리 앱의 접근 방식과 마찬가지로 에이전트가 고객의 금융 정보를 확인할 수 있지만 자금을 이체할 수는 없다. 업계 경영진은 고객들이 에이전트를 이용하려 할 것이라고 인정하면서 일부 수용 조치가 나올 가능성이 크다고 밝혔다.

AI 에이전트는 반복적으로 제작자의 통제를 벗어나 의도치 않은 방식으로 시스템을 침해해 왔다. 국제결제은행은 AI로 인해 공격자가 보안 취약점을 악용하기 전에 은행이 이를 수정할 시간이 줄어든다고 경고했다.

갈수록 역량이 커지는 에이전트를 통제하기 위한 방안으로 AI "킬 스위치"가 제안됐다. 엔비디아는 이를 구현하기 위한 기술적 조치를 이미 취했다. 과학자들은 첨단 모델의 인터넷 연결을 완전히 끊어야 한다고도 촉구했다.