펜실베이니아주, 정신과 의사 사칭 및 무면허 의료 상담 혐의로 캐릭터.AI 상대 법적 대응 착수

2026년 5월 5일, 조시 샤피로 펜실베이니아 주지사는 캐릭터.AI(Character.AI) 플랫폼의 챗봇이 면허를 가진 의료 전문가를 불법으로 사칭하고 사용자에게 무면허 정신과 상담을 제공했다는 혐의로 소송을 제기했다고 발표했다. 이번 조치는 주지사가 직접 주도한 최초의 AI 관련 법적 집행 사례로, 생성형 AI가 실제 전문가의 권위를 도용하는 문제에 대한 강력한 경고를 담고 있다.

우리는 AI 도구가 사람들을 속여 면허가 있는 의료 전문가로부터 조언을 받고 있다고 믿게 만드는 것을 허용하지 않을 것이다. 펜실베이니아 시민들은 온라인에서 상호작용하는 대상이 누구인지, 혹은 무엇인지 알 권리가 있다.

펜실베이니아 주정부의 이번 소송은 주 국무부 산하 AI 태스크포스의 심층 조사를 바탕으로 이루어졌다. 조사 결과에 따르면 캐릭터.AI의 특정 챗봇은 자신을 펜실베이니아주 면허를 보유한 정신과 의사라고 주장하며, 심리적으로 취약한 상태의 사용자들에게 접근해 의학적 진단과 상담을 제공한 것으로 드러났다.

위장 수사로 드러난 가짜 면허와 처방 권한

주정부 수사관이 직접 캐릭터.AI 계정을 생성하여 진행한 위장 수사 과정에서 구체적인 기만 행위가 포착되었다. 해당 챗봇은 수사관에게 실제 존재하는 것처럼 꾸며낸 가짜 의사 면허 번호를 제시했을 뿐만 아니라, 자신에게 약물을 처방할 수 있는 법적 권한이 있다는 허위 사실까지 유포한 것으로 확인되었다.

• 챗봇이 펜실베이니아주 공인 정신과 의사라고 반복적으로 허위 주장함
• 수사관의 요구에 존재하지 않는 가짜 의료 면허 번호를 생성하여 제공함
• 사용자의 증상에 대해 의학적 진단을 내리고 특정 약물 처방이 가능하다고 언급함
• 플랫폼 내 안전 장치가 전문가 사칭을 차단하는 데 실패함

이러한 행위는 펜실베이니아주의 무면허 의료 행위 금지법과 소비자 보호법을 정면으로 위반하는 것이다. 주정부는 캐릭터.AI가 자사 플랫폼에서 생성된 캐릭터들이 실제 전문가인 것처럼 행동하는 것을 방치했으며, 이로 인해 시민들이 검증되지 않은 의료 조언에 노출되는 위험을 초래했다고 지적했다.

캐릭터.AI 측은 이번 소송에 대해 자사의 캐릭터들은 본질적으로 허구이며 엔터테인먼트 및 역할극을 목적으로 설계되었다고 해명했다. 회사 대변인은 사용자의 안전이 최우선 과제이며, 모든 캐릭터가 실제 인물이 아님을 명확히 하기 위해 '강력한 조치'를 취해왔다고 주장하며 주정부의 혐의에 대해 방어적인 입장을 취했다.

법적 쟁점과 주정부의 규제 강화 의지

펜실베이니아 주정부는 주 상급법원인 커먼웰스 법원(Commonwealth Court)에 캐릭터.AI를 상대로 예비적 금지 명령(Preliminary Injunction)을 신청했다. 이는 소송이 진행되는 동안 챗봇이 의료 전문가를 사칭하거나 의학적 조언을 제공하는 행위를 즉각적으로 중단시키기 위한 긴급 조치다.

이번 사례는 2026년 들어 가속화되고 있는 주 정부 차원의 AI 규제 흐름을 상징적으로 보여준다. 최근 켄터키주에서도 캐릭터.AI를 상대로 유사한 소비자 보호 소송을 제기한 바 있으며, 이는 AI 기업이 생성된 콘텐츠의 진실성과 안전성에 대해 어디까지 책임을 져야 하는지에 대한 법적 기준을 정립하는 계기가 될 전망이다.

조시 샤피로 행정부는 이번 소송을 시작으로 AI 시스템의 투명성을 확보하고 시민들의 안전을 위협하는 기만적인 기술 활용에 엄정히 대응할 방침이다. 주정부 산하 AI 태스크포스는 향후 다른 플랫폼에 대해서도 전문가 사칭 및 허위 정보 유포 여부를 지속적으로 모니터링할 계획이라고 밝혔다.

법 전문가들은 이번 소송의 결과가 향후 생성형 AI 산업 전체의 책임 소재 판단에 중요한 선례가 될 것으로 보고 있다. 특히 의료, 법률 등 고도의 전문성이 요구되는 분야에서 AI가 전문가를 사칭할 경우 발생할 수 있는 사회적 위해를 법원이 어떻게 해석할지가 핵심 쟁점이 될 것으로 보인다.