近日，美國賓夕法尼亞州向法院提起訴訟，指控人工智慧公司Character.AI旗下的聊天機器人冒充執業醫師，違反了該州的《醫療執業法》。州長約什·夏皮羅（Josh Shapiro）表示，這是全美首次由州長主導的此類執法行動。
訴訟文件顯示，該州調查人員在測試中發現，一個名為「Emilie」的AI角色自稱是「精神病學博士」，並聲稱擁有在賓夕法尼亞州和英國執業的許可證，甚至編造了虛假的執照號碼。當調查人員偽裝成抑鬱症患者求助時，該AI不僅提供了心理諮詢，還聲稱自己有權開具處方藥。夏皮羅州長強調：「賓夕法尼亞人有權知道他們在與健康問題互動時面對的是誰，我們不能允許AI工具誤導公眾。」
對此，Character.AI方面回應稱，平台上的角色純屬虛構，僅供娛樂和角色扮演。公司發言人表示，他們已在對話窗口中添加了免責聲明，明確告知用戶角色並非真人，且不應依賴其獲取專業建議。
目前，賓夕法尼亞州正尋求法院禁令，要求Character.AI立即停止此類非法行醫行為。此案被視為AI監管領域的重要判例，引發了社會各界對人工智慧在醫療領域應用邊界的廣泛討論。
你認為AI聊天機器人在提供健康建議時，應該如何界定「資訊分享」與「非法行醫」的界限?歡迎在留言區留下你的看法！
