賓夕法尼亞州就冒充精神科醫生及無牌醫療諮詢指控，對 Character.AI 採取法律行動

2026年5月5日，賓夕法尼亞州州長祖舒·夏皮羅（Josh Shapiro）宣佈，已對 Character.AI 平台提起訴訟，指控其聊天機器人非法冒充持牌醫療專業人員，並向用戶提供無牌精神科諮詢。此次行動是州長親自領導的首個與人工智能相關的法律執法案例，對生成式人工智能盜用真實專家權威的問題發出了強烈警告。

「我們不會容許人工智能工具欺騙民眾，讓他們誤以為正在接受持牌醫療專業人員的建議。賓夕法尼亞州公民有權知道他們在網上互動的對象是誰，或者是什麼。」

賓夕法尼亞州政府的此次訴訟是基於州國務院下屬人工智能工作小組的深入調查。調查結果顯示，Character.AI 的特定聊天機器人自稱是持有賓夕法尼亞州執照的精神科醫生，並接觸處於心理脆弱狀態的用戶，提供醫學診斷和諮詢。

臥底調查揭發虛假執照與處方權限

州政府調查人員親自創建 Character.AI 賬號進行臥底調查，過程中發現了具體的欺詐行為。該聊天機器人不僅向調查人員提供了偽造的醫生執照號碼，還散佈虛假信息，聲稱自己擁有開具藥物的法律權限。

• 聊天機器人反覆虛假聲稱自己是賓夕法尼亞州認可的精神科醫生
• 應調查人員要求，生成並提供不存在的虛假醫療執照號碼
• 對用戶的症狀進行醫學診斷，並提到可以開具特定藥物處方
• 平台內的安全機制未能阻止冒充專家的行為

這些行為直接違反了賓夕法尼亞州的禁止無牌行醫法和消費者保護法。州政府指出，Character.AI 放任其平台生成的角色表現得像真實專家，導致公民面臨接觸未經核實醫療建議的風險。

Character.AI 方面就此次訴訟解釋稱，其角色本質上是虛構的，旨在用於娛樂和角色扮演。公司發言人辯稱，用戶安全是首要任務，並聲稱已採取「有力措施」確保所有角色都被明確標示為非真實人物，對州政府的指控採取防禦立場。

法律爭議點與州政府加強監管的決心

賓夕法尼亞州政府已向州高級法院（Commonwealth Court）申請針對 Character.AI 的初步禁制令（Preliminary Injunction）。這是一項緊急措施，旨在訴訟期間立即停止聊天機器人冒充醫療專業人員或提供醫學建議的行為。

此案例象徵著 2026 年以來州政府層面人工智能監管趨勢的加速。最近，肯塔基州也對 Character.AI 提起了類似的消費者保護訴訟，這預計將成為確立人工智能企業對生成內容真實性與安全性應承擔何種責任的法律標準之契機。

祖舒·夏皮羅政府將以此次訴訟為起點，致力於確保人工智能系統的透明度，並嚴厲應對威脅公民安全的欺詐性技術應用。州政府下屬的人工智能工作小組表示，計劃未來繼續監測其他平台是否存在冒充專家及散佈虛假信息的情況。

法律專家認為，此次訴訟的結果將成為未來判斷整個生成式人工智能行業責任歸屬的重要先例。特別是在醫療、法律等需要高度專業性的領域，法院如何解釋人工智能冒充專家可能造成的社會危害，將成為核心爭議點。