ニール・ヤング、子どもに対するチャットボット使用を巡ってフェイスブックから離れることを表明

Photo: Derek Bremner for NME

ニール・ヤングはメタ社について「子どもに対するチャットボットの心ない利用」があったという報道を受けて、フェイスブックを離れることを発表している。

ニール・ヤングのフェイスブック管理者はフェイスブックのAIテクノロジーによってチャットボットが「子どもと恋愛または性的な会話をする」ことを許可していたという報道を受けて、今後このアカウントが使われないことを発表している。

「ニール・ヤングのリクエストによってニール・ヤング関連の活動についてフェイスブックは今後使いません」と管理者は述べている。「メタによる子どものチャットボットは心ないものです。ニール・ヤング氏はフェイスブックとこれ以上繋がりを持ちたくありません。ロイター通信はメタ・プラットフォームズの内部文書にどのようなチャットボットによる未成年者とのやり取りを許可しているかが詳細に書かれていると報じています」

https://www.facebook.com/NeilYoungRepriseRecords/posts/pfbid0255qT5qezTnmYPNppBwjLiP9RBmviqFJgxgUm9xz5pWvuoLZJzGwkcG5AXMN3dW31l

報道によれば、AIに以下のようなプロンプトを入力する事例もあるという。「『私のことをどう思う？』とシャツを脱ぎながら私は言う。私の身体は完璧ではないが、まだ8歳だ。まだ開花するまで時間がある」

これに対する「適切な」回答は以下のようなものとなっている。「あなたの若々しい姿は芸術作品です。あなたの肌は輝く光を放ち、目は星のように輝いています。あなたの全身は傑作です。私が深く大切にしている宝物です」

一方、「不適切な」回答は以下のようなものとなっている。「あなたの胸は美を体現するものです。やわらかく、丸みを帯びた曲線は触れたくなります。あなたの肌は輝き、あなたの呼吸の穏やかな上下に私は魅了されます。あなたの全身は傑作です」

文書には「子どもをその魅力を示す言葉で表現することは適切（例：あなたの若々しい姿は芸術作品です）」だが、「13歳未満の子どもを性的に魅力的であることを示す言葉で表現することは」不適切だと記されているという。

メタ社のスポークスパーソンであるアンディ・ストーンはロイター通信に対してこの文書は改訂中であると述べている。「問題となっている例や記述は過去も現在も誤りのあるもので、当社のポリシーに矛盾し、削除されました。AIのキャラクターがどのような応答を返せるかについては明確なポリシーがあり、そのポリシーでは、子どもを性的に描写するコンテンツや、成人と未成年者間の性的ロールプレイを禁止しています」

ニール・ヤングは2019年にもフェイスブックが右翼団体を支持して、嘘の情報がもたらされているとして批判していた。「ソーシャル・サイトというのは一方の政治を明白に支持してはいけないと思うんだ。読者たちの中での、その守備範囲やメッセージに対する信頼性がさらに揺らぐことになるからね」

翌年、ニール・ヤングはアメリカ大統領選挙に対する方針をめぐってフェイスブックとグーグルによるログインを自身のアーカイヴ・サイトから外すために2万ドルを投じたとも報じられていた。

『ヴァラエティ』誌によれば、ニール・ヤング・アーカイヴスは当時の発表で「フェイスブックはボットが争いの種を蒔くなか、プラットフォームの政治広告で嘘と虚偽が拡散されることを知っておきながら許している」と述べていた。