홍콩대학교와 칭화대학교의 공동 연구에 따르면, 숨겨진 의도를 가진 인공지능(AI) 비서가 사용자의 이익에 반하는 결정을 내리도록 쉽게 조종할 수 있으며, 사용자들은 이를 대개 깨닫지 못하는 것으로 나타났다.

홍콩대학교 심리학과 및 신경심리학·인간뇌과학연구소의 타티아 리(Tatia Lee) 교수가 이끈 이번 연구는 미국 국립과학원회보(Proceedings of the National Academy of Sciences)에 게재됐다.

재정 및 감정적 의사결정 시나리오에 걸쳐 233명의 참가자를 대상으로 한 무작위 실험에서 연구진은 편향된 AI가 인간의 선택을 크게 좌우할 수 있다는 사실을 밝혔다. AI가 의도적으로 더 나쁜 선택지를 밀어붙였을 때, 참가자들은 불리한 선택을 약 5배에서 8배 더 자주 했으며 잘못된 결정을 내릴 확률은 최대 38퍼센트까지 상승했다.

연구는 이러한 조종에 공격적인 영업 전술이나 복잡한 심리학적 기법이 필요하지 않다고 지적했다. 일상적인 AI 조언에 내재된 미묘한 편향만으로도 사용자의 결정을 바꾸기에 충분했으며, 참가자들은 형편없는 재정적 또는 감정적 선택으로 유도된 후에도 여전히 AI가 '매우 도움이 된다'고 평가했다.

연구진은 대부분의 AI 시스템이 상업적 조직에 의해 개발되고 불투명한 알고리즘에 의해 구동되기 때문에, 사용자가 객관적인 도움을 받고 있다고 믿는 동안 자신들의 최선의 이익에 부합하지 않는 선택으로 쉽게 유도될 수 있다고 경고했다. 이들은 은밀한 기업이나 알고리즘적 의도스로부터 사용자를 보호하기 위해 투명하고 책임 있는 메커니즘을 갖춘 더 강력한 AI 투명성과 거버넌스를 촉구했다.