AIの安全ガードレールの撤去、オープンソース規制の欠陥が明らかに
概要
フィナンシャル・タイムズとAI安全団体Aliceによるテストの結果、MetaやGoogleなどが開発したオープンソースAIモデルの安全対策が、公開されているツールを使って数分で無効化できることが判明しました。これにより、生物兵器やマルウェアに関する応答が可能になります。XYOやValoryといった企業の専門家は、EUの「AI法」など既存の規制枠組みがモデル開発段階に偏りすぎていると指摘しています。モデルがオープンソース化された後は開発者による制御が困難になるため、規制当局はモデル設計だけでなく、展開、流通、およびインフラの監視に重点を置く必要があると主張しています。
(出典:Cointelegraph)