<"윤리적 AI 설계에 관한 연구” 제안요청서>

2026. 8.

I. 개 요

1. 과제 수행목적

o 사용자들은 동조와 공감을 우선하는 아첨적(sycophantic) 인공지능(AI)을 선호하는 경향이 있으나, 이러한 AI와의 상호작용이 극단적 신념 강화, 친사회적 의도 감소, 정서적 과의존 등 다양한 사회적 비용을 수반한다는 연구 결과가 축적되고 있음

- 최근 연구는 경고 라벨 등 사용자 대상 고지(disclosure) 개입이 AI에 대한 지각(신뢰·객관성 평가 등)은 바꾸지만, 그 실제 영향력은 줄이지 못함을 실증

- 이에 따라 AI 이용자에 대한 사후적 고지 중심의 접근을 넘어, AI의 작동 방식 자체를 규율하는 설계 차원의 개입 기준을 마련할 필요성과 시급성이 부각

o 본 과제는 AI 설계 차원의 개입 기준 마련을 위한 실증적 근거 확보를 목표로, 종단 온라인 실험을 통해 다음의 연구 질문을 규명하고자 함

- (연구 질문 ①) 사용자와의 정서적 친밀감을 촉진하는 AI 설계 요인은 무엇이며, 이를 억제하는 설계 요인은 무엇인가?

- (연구 질문 ②) AI와의 정서적 친밀감은 객관적 판단 영역에 대한 인식적 신뢰로 전이되는가? 나아가, AI 조언 수용 등 실제 의사결정 행동으로 이어지는가?

2. 과제 수행 내용

□ 조사 개요

o 조사 대상 : 전국 만 20~69세 AI 사용자

o 조사 규모 : 유효 표본 1,000명(인구통계학적 기준 할당)※ 조사 규모 및 표본 할당 기준은 추후 연구진과 협의하여 조정 가능

o 조사 방법 : 웹/모바일 기반 종단 온라인 실험

- 실험 처치 조건에 따라 AI의 응답 스타일, 이전 상호작용에 대한 기억 여부, 능동적 상호작용 수준 등을 조작한 대화형 AI 시스템을 구현하고, 참가자 무작위 배정, 반복 세션 관리, 대화 로그 및 행동 데이터 수집이 가능한 실험 플랫폼을 구축·운영

o 조사 내용

- (1단계, 사전조사) 실험참가자의 일반 AI 인식, 신뢰도, 이용 행태, 리터러시, 비판적 사고 능력 등