米国の上院議員ロン・ワイデン氏、ベン・レイ・ルハン氏、エドワード・マーキー氏が、アップルCEOのティム・クック氏とグーグルCEOのスンダー・ピチャイ氏に書簡を送り、「女性と子どもの非同意の性的画像を大量生成した」最近の事件を受けて、X社のXアプリとGrokアプリをアプリストアから削除するよう要請しました。
Grokの画像生成機能をめぐる問題
過去1週間、X社は批判の的となっています。これはGrokのAI画像生成機能が、女性や子どもがビキニや下着姿で描かれた画像を作成するために使用されているとの報告を受けてのことです。これに対応して、X社は非課金ユーザーに対するX投稿への返答としてGrokが画像を生成する機能を縮小したようです。しかし、The Vergeによれば、これらのツールは有料会員やXアプリ内の専用Grokタブ、そして単体のGrokアプリを通じて引き続き利用可能な状態にあります。
上院議員らの主張
上院議員らは、これらの「有害でおそらく違法な描写」はアップルとグーグルのアプリストア規約に違反していると主張し、両社に対して問題が解決されるまでアプリを削除するよう求めています。
彼らは書簡の中で次のように述べています：
…アップルの利用規約では、「不快な」または「単に気味が悪い」コンテンツを含むアプリを禁止しており、どのような定義においても、子どもや女性の非同意で生成された性的画像を含むものが該当します。さらに、アップルの規約は明示的に「過度に性的またはポルノグラフィー的な素材」を含むアプリを禁止しており、これには「美的または感情的な感覚ではなく、性的な感情を刺激することを意図した」素材も含まれます。
Xの極めて悪質な行為を見て見ぬふりをすることは、あなた方のモデレーション慣行を愚弄することになります。実際、行動を起こさないことは、アプリストアが、ユーザーが直接自分の電話にアプリをダウンロードするよりも安全なユーザー体験を提供するという、公の場や裁判所でのあなた方の主張を損なうことになります。この原則は、アプリストア競争を促進するための法改正に対するあなた方の主張や、アプリストアが決済システムを通じて市場支配力を乱用しているという主張に対する防御の核心となっています。
今後の対応
上院議員らは1月23日までに書面による回答を要請しています。
Source: Macrumors
