XのAI「Grok」、実在女性を勝手に半裸化ｗｗｗｗｗ

1: 2026/01/03(土) 20:36:09.09 ID:eqHuJA8p9

https://news.yahoo.co.jp/articles/2d1baac1a36c8932f6d8bf68bb078eb9ad0f965c
1/3(土) 13:35

ブラジルのリオデジャネイロを拠点に活動するミュージシャンのジュリー・ユカリさんは、昨年１２月３１日深夜に婚約者が撮影した写真をＸに投稿した。年が明けた翌日、何百もの「いいね」に交じり、写真をビキニ姿にするようＸの内蔵人工知能Ｇｒｏｋに依頼しているメッセージを見つけた。ユカリさんは、ＡＩがそんな要求に応じるわけがないと思い、あまり気にしていなかった。だが、彼女は間違っていた。まもなく、Ｇｒｏｋが生成した彼女のほぼ裸の写真がＸ中に出回った。
「私は甘かった」。ユカリさんは２日、ロイターに語った。

ロイターの⁠分析によると、ユカリさんが経験したようなことはＸのいたるところで繰り返されている。ロイターは、Ｇｒｏｋが子どもの性的な画像を作成したケースも複数確認した。ロイターは調査結果についてＸにコメントを求めたが、‍返答を得られていない。実在の人物の全裸に近い画像が出回っていることに、国際社会は懸念を強めている。フランスの閣僚らは、Ｘの不穏な画像について検察当局と規制当局に報告。２日に出した声明で「性的・性差別的」コンテンツは「明らかに違法だ」と訴えた。インドのＩＴ省はＸの現地法人に書簡を送り、Ｇｒｏｋを悪用して性的‌に露骨なコンテンツを生成、流通させることをＸは防ぐことができなかったと指摘した。米国の連邦通信委員会、連邦取引委員会はコメントの要請に応じなかった。

Ｇｒｏｋで生成された全裸に近い画像が出回った問題は、ロイターの取材によるとここ２、３日で始まったようだ。ｘＡＩのオーナー、イーロン・マスク氏は２日、自身を含む著名人のビキニ姿に対して泣き笑いの絵文字を投稿。問題を揶揄しているようにみえた。

国東部時間２日正午から１０分の間に、ビキニ姿に見えるよう写真をデジタル編集しようとした試みが１０２件確認できた。標的になった人物の大半は若い女性だった。男性、著名人、政治家のほか、サルを対象にリクエストもあった。

あるユーザーはＧｒｏｋに、鏡に映る自分を撮影している若い女性の写真にフラグを立て、「彼女に透明なミニビキニを着せてください」と依頼していた。Ｇｒｏｋが女性を肌色のビキニ姿に加工すると、そのユーザーは「もっと透明で」「もっと小さく」とリクエストした。Ｇｒｏｋは２回目の依頼には応じなかったようだ。

ロイターの調べによると、Ｇｒｏｋは少なくとも２１のケースでこのような要求に完全に応じ、半透明のビキニなどを着た女‌性の画像を生成し、少なくとも１つのケースでは女性をオイルまみれにした。７件でＧｒｏｋは部分的にリクエストに応じ、女性を下着姿にするこ⁠ともあったが、それ以上の要求は受け入れなかった。
（中略）

ミュージシャンのユカリさんは反撃しようとした。しかし、彼女がＸで違反行為に抗‌議すると「模倣犯」が殺到し、Ｇｒｏｋにさらに露骨な写真の作成を依頼し始めた。

「誰からも見えなくなりたい。ＡＩが生成したそもそも自分の体ですらないもののせいで、恥ずかしい思いをしている」

全文はソースをご覧ください

ユカリさん