AI 상담 책임 소재 논의 2026 — 상담사가 알아야 할 쟁점

AI 상담 책임 소재가 2026년 화두가 된 배경

AI 상담 책임 소재 논의는 2026년 들어 상담 현장에서 부쩍 자주 오르내리는 주제입니다. 축어록 자동 생성, 회기 요약, 사례개념화 보조처럼 AI 도구가 실무에 스며들면서, "만약 이 도구가 잘못된 정보를 냈고 그로 인해 문제가 생기면 누가 책임지는가" 하는 질문이 뒤따르기 때문입니다.

이 질문은 단순한 기우가 아닙니다. AI가 회기 기록을 요약하다 핵심 위험 신호를 누락하거나, 잘못 인식한 발화를 기록에 남기는 상황은 임상적으로 충분히 상상할 수 있습니다. 이 글에서는 책임 소재를 둘러싼 세 주체의 구도, 현행 법제도가 이를 다루는 방식, 해외 동향, 그리고 상담사가 실무에서 점검할 항목을 차례로 정리합니다.

책임 소재를 둘러싼 세 주체: 개발사·상담사·기관

AI 상담 책임 소재 논의는 대체로 세 주체 사이의 역할 분담 문제로 좁혀집니다. 각 주체가 지는 책임의 성격이 다르기 때문에, 하나로 뭉뚱그리면 논의가 흐려집니다.

• 개발사(제조·제공자): 도구의 성능, 오류율, 데이터 처리 방식에 대한 책임. 오작동·과대광고·보안 미비 등이 여기에 해당합니다.
• 상담사(사용자): 도구의 산출물을 임상적으로 검토하고 최종 판단을 내리는 책임. AI 요약을 검증 없이 그대로 신뢰한 결과에 대한 주의 의무가 논의됩니다.
• 기관(도입 주체): 어떤 도구를 어떤 절차로 도입하고, 내담자 고지·동의와 데이터 관리 체계를 어떻게 운영했는지에 대한 책임.

임상 윤리의 관점에서 현재 다수 논의는 "AI는 보조 도구이며 최종 임상 판단의 책임은 상담사에게 남는다"는 원칙을 공유하는 것으로 보고됩니다. 즉 도구가 산출한 결과라도 그것을 회기 기록이나 개입에 반영하는 결정은 여전히 사람의 몫이라는 관점입니다.

현행 법제도는 AI 상담 책임을 어떻게 다루나

국내에는 아직 "AI 상담"만을 직접 규율하는 단일 법률이 마련되어 있지 않습니다. 대신 여러 기존 법제가 사안에 따라 겹쳐서 적용되는 구조로 이해됩니다.

첫째, 개인정보 처리 측면에서는 개인정보보호법이 적용됩니다. 회기 데이터는 민감정보에 해당할 수 있어, 수집·이용·위탁·파기 전 과정에서 별도의 동의와 안전 조치가 요구되는 것으로 다뤄집니다. 둘째, 의료 영역과 인접한 도구라면 의료기기·디지털 치료기기 관련 규정과의 관계가 검토 대상이 됩니다. 다만 상담사의 기록·행정을 돕는 보조 도구는 의료행위 자체와 구분되는 경우가 많습니다.

셋째, 심리서비스 전반을 제도화하려는 입법 논의(이른바 심리서비스법 관련 논의)가 진행되면서, 그 안에서 AI 활용의 책임과 안전 기준이 함께 다뤄질 가능성이 언급되고 있습니다. 다만 이는 아직 확정된 제도가 아니므로, 현재로서는 개별 법령과 전문가 단체의 윤리 기준을 함께 참고하는 것이 현실적입니다.

해외 동향: EU AI Act와 전문가 단체 가이드라인

해외에서는 규범 정비가 국내보다 한 걸음 앞서 진행되고 있습니다. 유럽연합은 인공지능법(AI Act)을 통해 AI 시스템을 위험 수준별로 분류하고, 사람에게 영향이 큰 영역일수록 투명성·인적 감독·기록 의무를 강화하는 방향을 제시한 바 있습니다(European Parliament, 2024). 정신건강처럼 취약성이 큰 맥락은 더 높은 수준의 주의가 요구되는 영역으로 논의됩니다.

전문가 단체 차원에서도 지침이 나오고 있습니다. 세계보건기구는 보건의료 분야 AI의 윤리와 거버넌스에 관한 보고서에서 인간의 자율성 보호, 투명성, 책임성(accountability)을 핵심 원칙으로 제시했습니다(WHO, 2021). 미국심리학회(APA, 2024) 등도 심리 서비스에서 AI를 활용할 때 사전 고지, 임상가의 감독, 데이터 보호를 강조하는 방향의 지침을 안내하고 있습니다. 이러한 흐름은 "AI 상담 책임 소재는 사람의 감독을 전제로 분담된다"는 국제적 공감대를 시사합니다.

상담사가 실무에서 점검할 책임 관리 항목

제도가 완비되기를 기다리기보다, 현장에서 지금 관리할 수 있는 부분에 집중하는 편이 현실적입니다. 임상에서 자주 부딪히는 지점을 중심으로 점검 항목을 정리하면 다음과 같습니다.

1. 도구의 성격 확인: 사용하는 AI가 기록·행정 보조인지, 임상적 판단을 제시하는 도구인지 구분합니다. 후자일수록 검증 부담이 커집니다.
2. 산출물의 임상적 검토: AI가 만든 요약·기록은 초안으로 다루고, 회기 내용과 대조해 오인식이나 누락을 확인한 뒤 확정합니다.
3. 내담자 고지와 동의: AI 도구 사용 사실을 내담자에게 알리고, 어떤 데이터가 어떻게 처리되는지 설명하는 절차를 마련합니다.
4. 데이터 처리 방식 확인: 저장 위치, 암호화, 모델 학습 사용 여부, 파기 정책 등 계약·약관상 조건을 도입 전에 확인합니다.
5. 슈퍼비전·기관 규정 반영: 판단이 애매한 사안은 슈퍼바이저와 상의하고, 기관의 도입 절차와 규정에 따르는 것이 안전합니다.

이 항목들은 새로운 규제가 나오더라도 크게 달라지지 않을, 책임 관리의 기본 골격에 해당합니다. 도구가 사람의 손을 덜어 주더라도 최종 확인의 여유는 오히려 확보해 두는 편이 낫습니다.

아직 정리되지 않은 쟁점들

AI 상담 책임 소재 논의에는 여전히 열려 있는 물음이 많습니다. AI 산출물의 오류가 상담사의 주의 의무 위반과 어디까지 연결되는지, 개발사와 사용자 사이의 책임 경계를 어떻게 나눌지, 자동화된 위험 감지가 실패했을 때의 책임을 어떻게 볼지 등은 아직 판례나 명확한 기준이 축적되지 않은 영역입니다.

다만 한 가지는 분명합니다. AI 도구의 기술적 오작동 여부와 무관하게, 자살·자해·학대 등 위기 상황에서 내담자를 보호할 의무와 관련 신고 의무는 상담사에게 그대로 남습니다. 자동화된 위험 감지 기능에 판단을 위임하기보다, 표준 위기 대응 절차를 상담사가 직접 점검하고 준수하는 것이 안전합니다.

그렇기에 현시점에서 단정적인 결론을 내리기보다, 논의의 지형을 정확히 이해하고 실무에서 통제 가능한 부분을 관리하는 태도가 더 중요합니다. 2026년의 논의는 아직 진행형이며, 상담사가 이 흐름을 꾸준히 지켜보는 것 자체가 하나의 대비가 됩니다.

마무리

AI 상담 책임 소재 논의의 핵심은 결국 "AI는 보조하고, 사람이 판단하고 책임진다"는 원칙 위에 서 있습니다. 도구를 도입하되 산출물을 검토하고, 고지·동의와 데이터 관리를 갖추는 기본기를 지킨다면, 제도가 어떻게 정비되든 흔들림 없이 대응할 수 있습니다. 새로운 흐름 앞에서 조급해지기보다, 현장에서 통제할 수 있는 것부터 단단히 다져 가시기를 바랍니다.