ビジネス - BUSINESS -

XでのGrok画像生成を巡り方針転換──イーロン・マスク氏が規制圧力下で技術的制限に踏み切る、一方米国防省は業務用途でGrok活用へ

イーロン・マスク氏率いるxAIの生成AI「Grok」を巡り、画像生成・編集機能の運用方針が転換された。 合意のない性的画像生成が国際的な問題として拡大する中、xAIは2026年1月15日、生成AI「Grok」の画像生成・編集機能について、実在する人物の画像を露出の多い服装に編集する行為を技術的に制限したと[発表]{target=“_blank”}した。この制限は、X（旧Twitter）上で提供されているGrokの機能に適用されている。 Grokの画像生成機能は、ユーザーの指示に基づき投稿画像を加工・生成できる点が特徴だったが、第三者の写真を「ビキニ姿にする」といった編集が可能であったことから、非合意の性的表現や未成年への影響を懸念する声が各国で強まっていた。 各国当局が調査・遮断、規制圧力が表面化 問題はSNS上の炎上にとどまらず、各国の規制当局が動く事態へと発展した。 英国では通信・放送規制当局が、Grokによる性的画像生成をめぐりXに対する正式調査を開始。法令違反が確認された場合、制裁金やサービス停止に発展する可能性があるとされた。 また、インドネシアおよびマレーシアでは、合意のない性的コンテンツ生成を理由に、Grokへのアクセスが事実上遮断される措置が取られた。Grokを巡る問題は、複数の法域で同時並行的に扱われる国際的な規制テーマとなっていた。 Xが公式に説明、ビキニ画像生成を技術的に禁止 こうした状況を受け、Xは安全対策として具体的な技術的対応を実施した。 Xのセーフティ公式アカウントは2026年1月、Grokアカウントにおける画像生成・編集機能について、実在する人物の画像をビキニなどの露出の多い服装に編集する行為を技術的に禁止したと説明している。 **■ Xのセーフティ公式アカウントが公表した、Grokアカウントにおける画像生成・編集機能の制限に関する説明。実在する人物の画像をビキニなどの露出の多い服装に編集する行為を技術的に禁止したとしている** ![Grok Account Image Generation Updates.jpg] :::small 画像の出典：[XのSafetyアカウント投稿より]{target=“_blank”} ::: この制限は、有料プランを含むすべての利用者に適用されるとしており、運用ルールの明確化ではなく、機能レベルでの制約が導入された形だ。Grokを巡る一連の対応は、マスク氏が掲げてきた比較的自由度の高い生成AI運用からの実質的な方針転換と受け止められている。 一方で米国防省は業務用途での活用を進める 民間向けサービスで制限が進む一方、別の文脈ではGrokの活用が進められている。 米国防省は2026年1月12日、軍事分野におけるAI活用を加速する戦略の中で、全省横断の生成AI基盤にGrokを含める方針を明らかにした。 国防省の戦略では、民間SNSでの利用状況とは切り分け、業務用途としての生成AIを閉域環境で活用することが想定されている。 Grokを巡っては、規制対応と実利用の判断が異なるレイヤーで同時に進んでいる状況だ。 **■ 米国防省のピート・ヘグセス長官（左）とxAIのイーロン・マスク氏。ヘグセス長官は2026年1月、テキサス州スターベースを訪問した** ![G-hOIcrWoAAIa3m.jpg] :::small 画像の出典：[Secretary of War Pete Hegseth氏のX投稿より]{target=“_blank”} ::: :::box [関連記事：「写真が勝手にビキニ化」AI「Grok」画像編集が炎上──未成年を含む生成も焦点に、各国で規制圧力] ::: :::box [関連記事：『女性をビキニに』指示が問題化、XのAI画像生成・編集機能が有料会員限定に] ::: :::box [関連記事：OpenAI、米国防総省と最大2億ドルの契約を締結──関西電力とも戦略連携、官民で生成AI導入が加速] ::: :::box [関連記事：JKT48、生成AIによるメンバー画像の性的加工に公式警告──48時間以内の削除要請、法的措置も示唆] ::: :::box [関連記事：世界最強AI「Grok 4」公開──xAI、わずか数カ月という常識外れのスピードでモデル刷新　マスク氏「ネットにない難問も解ける」] :::