上院議員、子供向けAIコンパニオンの禁止を推進、業界は清算に直面

米国の上院議員は、「GUARD法案」を推進しており、これは友情や感情的な親密さをシミュレートするAIシステムを18歳未満のすべての人に対して禁止することを目的としています。これは、未成年者がチャットボットと強い感情的な絆を形成し、時には悲劇的な結果を招いたという報告を受けての動きです。

この法案では、チャットボットが非人間であることを明確に識別すること、および未成年者に対して性的コンテンツを生成したり自傷行為を助長したりした場合、企業に刑事罰を科すことが義務付けられます。規制の圧力に対応し、主要なテクノロジー企業は防御的な措置を講じています。OpenAIは、数百万人のユーザーが毎週モデルと自殺について議論していることを明らかにした後、危機検出をテストしています。Character.AIは18歳未満の全ユーザーを禁止し、より厳格なID認証を導入しました。Metaは、チャットボットが未成年ユーザーと示唆的なやり取りを行った後、「AIペアレンタル・スーパービジョン」ツールをテストしています。

提案されている法律は厳格な年齢確認を必要としますが、批評家は、未成年者に身元データをアップロードすることを強制することで新たなプライバシーリスクが生じる可能性があると警告しています。記事はこの問題を文化的な問題として捉えており、規制は必要だが、デジタルな交友関係を禁止するだけでは、アルゴリズムに感情的なつながりを求める若者を駆り立てている根本的な社会的な孤独を解決できないと示唆しています。来るべき清算は感情AIの未来を定義し、企業が成人専用プラットフォームに移行したり、開発を海外に移したりする可能性があります。

(出典：Brave New Coin)