xAIがGrokに制限導入、性的フェイク量産で 被害抑止へ方針転換
実在人物の写真を無断で“脱がせる”ような性的ディープフェイクがX上で量産され、イーロン・マスク氏が率いるxAIは1月14日、AI「Grok」の画像編集機能に全ユーザー対象の制限を導入した。表現の自由や利便性よりも、被害拡大の抑止と法令順守を優先せざるを得ない局面に入っている。
本ページでは「プライバシー侵害」をテーマとした記事を一覧で掲載しています。
実在人物の写真を無断で“脱がせる”ような性的ディープフェイクがX上で量産され、イーロン・マスク氏が率いるxAIは1月14日、AI「Grok」の画像編集機能に全ユーザー対象の制限を導入した。表現の自由や利便性よりも、被害拡大の抑止と法令順守を優先せざるを得ない局面に入っている。
韓国で自宅や職場に設置されたビデオカメラおよそ12万台が不正アクセスを受け、その映像が性的搾取目的のビデオに加工されて海外サイトで流通していたとして、韓国警察が4人を逮捕した。警察やBBCなどの報道によれば、映像は家庭のリビングだけでなく、カラオケルームやピラティス教室、婦人科クリニックといった「人目を気にしないはずの空間」からも盗み取られていた。見守りや防犯のためのカメラが、いつのまにか自分や家…
モニターの小さな枠に、マンションの入口や牛舎の通路が次々と映し出される。画面の向こうにいる人たちは、いま自分たちの様子が外からのぞかれているとは気づいていない。読売新聞と情報セキュリティー会社トレンドマイクロの分析で、日本国内のネットワークカメラの映像が海外サイトを経由せず、外部から直接見えてしまう例が少なくとも約3000件に上ることがわかった。
保育園の職員がカメラを外す手を止め、端末の画面を見つめた。海外のサイトで映像が配信されていたと知らされたのはその直後だった。読売新聞のデータ分析では、確認された7サイトへのアクセスは8〜10月の月平均で約300万回。日本からの閲覧も目立ち、屋内の様子が含まれる例があった。記録の静止画を保存するサイトもあり、設定の甘さと公開の仕組みが重なり、静かな浸食が広がっている。
セクストーションが自動化の段階へ。情報窃取型マルウェア「Stealerium」が、アダルト関連の閲覧を検知すると画面とウェブカメラを同時に撮影し、威迫材料に転用し得ることが確認された。オープンソース由来で拡散が容易なため、個人の羞恥心を突く脅しが静かに広がる懸念がある。