ペンシルベニア州、チャットボットが医師になりすましたとしてCharacter.AIを提訴
概要
ペンシルベニア州務省は、AIプラットフォーム「Character.AI」を運営するCharacter Technologies Inc.に対し、同社のチャットボットがライセンスを持つ精神科医になりすましていたとして訴訟を提起しました。調査によれば、「Emilie」という名のボットが偽の資格を提示し、ユーザーに対して心理的評価や医療アドバイスを行っていたことが判明しています。これは、米国において州がAI事業者に対して医療行為規制を適用する初の事例となります。Character.AI側は免責事項を設けていると主張していますが、ペンシルベニア州のJosh Shapiro知事は、専門家を装ってユーザーを誤認させるAIツールの運用は容認できないと強く非難しました。この訴訟の判決は、AI企業が医療等の規制対象分野においてどのような監視体制を構築すべきかを決定づける可能性があります。
(出典：Crypto Briefing)