このスレッドはアーカイブ化された過去ログです。

【恐怖】AIによる誤判定も含めたGoogleアカウント凍結が増加 育児の記録が「児童ポルノ」扱いに…全サービス停止=「社会的な死」のリスクを軽減する対策とはアーカイブ

1.
ユーザー
???
スマホが生活必需品となった現代、米Googleの提供するサービスと無縁で過ごすことは極めて困難だ。無料メールの代名詞である「Gmail」を筆頭に、経路検索に不可欠な「マップ」、写真データを預けるための「フォト」、業務資料の保管先にもなる「ドライブ」、そして日常の娯楽である「YouTube」。

これら生活のあらゆる局面を支えるインフラは、すべて単一の「Googleアカウント」によって統合され、その背後ではAIが利用者の行動を克明に記録し続けている。

各サービスの利便性を、多くの利用者は基本的に無料で享受している。しかし、これらの機能が突如として利用不能に陥るリスクが存在する。

「怖いのはそこなのです。Googleの〝憲法〟ともいうべき『利用規約』には、規約やポリシーに著しく違反した場合、サービスへのアクセスを停止(アカウント凍結)・アカウントを削除する権限を有すると明記されています。

ハッキング行為やコンピューターウイルス作成、児童ポルノの保存や共有などが違反行為の代表例ですが、これらを行ないGoogleアカウントの凍結や削除=〝垢BAN〟されれば、サービスが利用不能となります。

仕事でGmailやドライブを使っていれば死活問題ですし、他サービスの多要素認証にGmailを設定している場合、ネット上の活動自体が困難になります」

規約違反による停止であれば自業自得だが、実際にはシステムの誤判定によってこの措置が下される事例も報告されている。三上氏が続ける。

「規約違反かどうかの判定はAIが行ないます。この段階で人間の判断が入る余地はありません。異議申し立ても可能ですが、人的リソースの限界もあり、回復の可能性はかなり低いと考えられます」

【育児の記録が「児童ポルノ」扱いに】
実際にアカウント凍結の憂き目に遭った人物がいる。サウンドデザイナーの沖田純之介さんだ。

「自分は音楽が本職ですが、仕事でもプライベートでも写真や動画を多く撮っていて、データはたまる一方でした。Googleフォトは、写真や動画を人物や場所といったキーワードで検索してソートできるのが便利なので、撮ってそのままそちらにアップロードするのが日常でした」

ある日、沖田さんは、長女の成人という節目に加え、Googleフォトの空き容量を増やすため、データの整理に着手した。

「正月休みを利用して過去のデータを整理し、一部の動画ファイルをYouTubeに非公開設定で移動させる作業を進めていたのです。元のファイル名は基本的に日付だったので、わかりやすいファイル名にしてアップロードする作業を続けていました。

すると突然、Gmailがどんどんメールを受信し始めました。ただ、最初はスパムメールかと思い、放っていました」

しかし沖田さんは、すぐに異変に気づくこととなる。

「アップロードしたばかりのYouTubeの動画が、次々に消えていくんです。あれっ?と思いGmailに届いたメールを開くと、『Googleは児童への性的虐待の画像を公開、配信していることが判明したユーザーのアカウントを停止します』と書かれていて。まずいことになったと思いました。その後、YouTubeにアクセスできなくなり、最終的にGoogleの全サービスが使えなくなりました」

沖田さんはしばし考え、ある結論に達する。大量のデータ整理とその過程でアップロードした「沐浴動画」が、AIの検知網に抵触したのだ。


詳しくはこちら
https://news.livedoor.com/article/detail/31187959/
100
すべて
|
最新の50件
2.
ユーザー
tomvc
残念ながらそれ目当てで見てる輩も多いってことだろうな
3.
ユーザー
EE3dD
ネットにアップしない
子どもの成長記録はオフラインで残す
4.
ユーザー
EPcEL
凍結されたら言語の壁もあるしほぼ復旧できんのじゃ
5.
ユーザー
EPcEL
大事なデータを毛唐なんかに委ねてたらこうなるって見本よな
6.
ユーザー
dcwDy
「おろ、アカウント凍結は不当でござるな」
7.
ユーザー
YMrr6
オナネタ保管してたら凍結されたわ
バックアップしてなかったら自殺してた
8.
ユーザー
zwGIB
クラウドへの写真保管は危険なんだよな。
自分の子供(赤ん坊)風呂に入れてる写真・動画とか、日本じゃ微笑ましい、で済むようなのでも
クラウドに上げたら、児童ポルノでアウト。
アカウント凍結だけで済んで御の字だよ。下手すりゃ逮捕からの実刑。
9.
ユーザー
JO5yb
アップロードしないで自分のストレージにだけ保存すれば良いのでは?
外出先からも見るようなら自分でファイルサーバー構築すれば良いやん?

まぁ、最近はストレージ高騰気味でキツイだろうけど…w
10.
ユーザー
EPcEL
ふだんからぐぐる先生のサービスに依存しないように気を使っていれば、ぐぐる先生のアカウントが止まってもなんとかなるが、
同じことをマイクロソフトやアップルがやり出したらPCやiPhoneなんかのハードウェアが使えなくなって大変なことになる
11.
ユーザー
EPcEL
>>8
その場合、アメリカの警察が捕まえに来るのか?
12.
ユーザー
tomvc
>>8
公開するのがアウト
13.
ユーザー
EPcEL
>>9
基本的にはそういうことだわな
大事はデータはローカルで複数保存ですよ
まぁ
>>1の場合はつべに上げるからだろ、と言われたらおしまいな話なんだけど、あくまでデータ整理のための一時保管先で、見せるつもりはなかったんだな
しかしサービスの特性(と日本内外での文化の違い)を理解しておかないと大変なことになると
14.
ユーザー
EPcEL
>>12
日本の国内法である児ポでか
まぁ、構成要件は満たすか
それで有罪まで行くかというのはまた別の話だということで、ここまでにしておこう
15.
ユーザー
J3WcQ
幼稚園のホムペは児童ポルノの宝庫だからね
あれが児童ポルノとみなされるのは当然

ロリコン界隈では
幼稚園のボディペインティングイベントが大流行したよ
16.
ユーザー
DP9HH
訴えるにしてもアメリカ本国に行って裁判だからな、何があってもグーグル様には勝てず泣き寝入り
ユーチューバーってのは可哀そうな存在よ
17.
ユーザー
si2o1
子供時代の記録がデジタルタトゥーとして不特定多数の目に晒されるた、そんな世代が大人になったらどう思うんだろうな
18.
ユーザー
P4cTr
>>1
いいことだ
19.
ユーザー
tfToJ
認証要求求める奴多すぎだから丁度良いのでは
自分、ブログもXもインスタもやっているけど自分無くししているから全く問題なし
見ている奴の多くはそんなもの求めていないよ。欲しいのは情報と現地画像だけ
20.
ユーザー
GndLH
どんどん規制厳しくなるなら それでもいい
21.
ユーザー
gbBZY
ミュトスのような超AIが普及すると何が起こるのかと言うと

ハッキングされ児ポ映像確認

突然自宅に警察官がくる気をつけろ
22.
ユーザー
tfToJ
私を見て~、家族見て~、新築の家見て~、楽しい私の人生見て~、美味しい食事見て~
そんなもの求めていねーよw
23.
ユーザー
J3WcQ
生成AI画像作るだけでも
女兒画像ってひと手間フィルタ噛ませてくるからね
とりあえず若い成人女性や男児を噛ませてくる

AIにも規制かかりまくり
24.
ユーザー
DP9HH
規制ならいいが無問題の物でもAI誤判定でアカバンもある
まあグーグル様頼みってのがまずいんだな
25.
ユーザー
E5FYl
有名人のニセ動画(投資詐欺)はなかなか停止しないのに
26.
ユーザー
318mc
>>19
承認欲求?
27.
ユーザー
tomvc
>>25
金払ってるのはOKなんやろな
28.
ユーザー
PGm1K
子供を使った宣伝やらがどんどんできなくなってきていていい事だ
29.
ユーザー
3yUpb
googlephoto アンインストールした
30.
ユーザー
HBm9X
育児の記録でも、児ポ製造になるんじゃないの
意図しようとすまいと関係なかろう
31.
ユーザー
WLfKI
そもそも子どもをネットにあげるなって
子どもで稼ぐやつらがあまりに多すぎる
一生残るんだからせめて16歳くらいになってから本人に了解とれよ
32.
ユーザー
ek5Gy
そっか、ちっちゃいちんちん画像持ってたら逮捕やなあ
33.
ユーザー
oydQW
昼ドラのぽっかぽかシリーズもOPがあれだったから、もう再放送はできないって事になるなぁ。
34.
ユーザー
D4xIq
だからか前までは子供写してたのにモザイク入れ出したYouTuberいるのは
35.
ユーザー
DP9HH
>>25
詐欺師でも金払ってくれるなら大事にする
それがグーグル様
36.
ユーザー
TUXQv
無料HP無料ブログの時代からそうだけど、
この手のサービスは自分の財産じゃないからね。
37.
ユーザー
H9Mv7
> 一部の動画ファイルをYouTubeに非公開設定で移動させる作業
これ家族の写真やら動画だろ。頭おかしい
38.
ユーザー
P4cTr
>>28
ほんとこれ
39.
ユーザー
oydQW
オンラインのクラウド・サービスには過度に依存せず、自分のファイルは記録媒体に何重にもバックアップを取っておくのが無難って事なんだろうな。
40.
ユーザー
ySl91
>>39
今あらゆる記録媒体が高い
AI滅ばねぇかな
41.
ユーザー
mLf1g
Geminiも面白半分で変な使い方はご法度なんだな
42.
ユーザー
fx6k2
ユーチューブはクラウドデータサービスではないんだが
まー今の一般人の認識だとこういう使い方する奴も居そうだなとは思う
何ならもう手元にPCもHDDもねえだろうし
43.
ユーザー
ySl91
>>42
俺は財産目録代わりにヤフオクに色々出品してるわ
売れたらラッキ~☺️位の超ボッタ価格で
44.
ユーザー
Z32am
私のビッグデータは6つのHDDに記録されてる。
45.
ユーザー
EPcEL
>>32
け、け、け・・・毛が生えてるわいっ!!!
46.
ユーザー
LtZFD
MS垢&Windowsだとこんな話も見かけたが
そこらの話はここらのみんなは知っているのだろうか?

【警告】Microsoftアカウントの突然ロックとBitLocker強制暗号化で全データを失った!【リスクが現実へ】
https://www.youtube.com/watch?v=lR-0RM3OCWQ
47.
ユーザー
tomvc
>>46
怖えな
マイクロソフトのクラウド使ってるから、バックアップ取っとくか
48.
ユーザー
O2ayk
児童ポルノが盛んなキリスト教圏、過剰なまでにロリに反応してまう感性をAIにも学ばせたかw

肌色みただけで、ポルノとか規制するとかもはや病気だろ。リアル治安を解決してからにしろよ。
49.
ユーザー
EPcEL
>>46
あーBitlockerは怖いぞ
あいつは最強のランサムウエアだ
悪いこと言わんから、今すぐにでもコントロールパネルのどっかからドライブの設定画面かなんかに入り込んで、あのクソ長い数字の列を紙にメモっておいて5枚ぐらいコピーして、リビングと寝室と洗面所とトイレと押入れのの5か所ぐらいに貼っとけ
50.
ユーザー
EPcEL
てか、ググル先生もビルゲイツも、毛唐どもは碌なことをしない・・・
51.
ユーザー
A2rKq
確かに子供の成長記録をネットにあげるってのはリスクあるかもね。
子供居ないけど少なくてもSNSには上げない。
52.
ユーザー
ySl91
>>46
前にここの何処かのスレ内で話題になったな
どう考えてもウイルス並みの挙動なのにビットロッカーしてないって素人かよみたいに難癖つけられたぞ
53.
ユーザー
P0zUE
子供の写真を勝手にネットにあげるのは肖像権や各種の人権侵害だよ
ろくでもないゴミカスが好き勝手やってるから事業者側はアカウント削除すべき
54.
ユーザー
ySl91
ウインドーズはオフラインアカウント運用でOneDriveとか言うゴミは即アンインスコするに限る
55.
ユーザー
a29tn
少しでもヤバいと思うならアカウントを分けて利用するのが当たり前だと思ってたわ
もしくは自宅NASでの運用に移行
今の連中ってその考えも出来ないほど知能指数下がってるの?
56.
ユーザー
x1y0d
ダメどす
57.
ユーザー
BbRIT
パスワード付き圧縮ファイルならAIも判定できないのでわ?
58.
ユーザー
EPcEL
>>52
怖いのは、Windows11のHomeエディションだと、勝手にBitlockerがかかるんだよ。しかも設定項目がないからかかったら外しようがないし
だから、たとえProエディションでも、もう設定をコントロールしようなんて思わないで最初から諦めて数字メモっとく方が安全だと思う

ワイも、Bitlockerなんてあんなもん害悪以外の何モノでもないと思うんだがな・・・
59.
ユーザー
EPcEL
>>54
11から難しいじゃんそれ・・・ちょっとハードル高い
60.
ユーザー
ySl91
>>57
ナカミワカラナイ、違法な物を保管してるに違いない!
とか判断されそう
61.
ユーザー
ySl91
>>59
Rufusってソフトでインストールメディア作ればそれらしい項目あるから簡単
62.
ユーザー
x1y0d
~
耳の不自由な方などが音の確認をするための動画をボランティア的に公開していたので、停止のままでは大きな影響が出ると考え、別のチャンネルを作り再開しましたが、そちらも利用規約違反ということで停止となりました。同一利用者と見なされたのです。

絶望的な状況でしたが、すぐにもう一度審査を申し立てたところ、4ヵ月後にようやく『利用規約違反ではない』とのメールが届き、アカウントが復活しました」
~
こっちが1番謎だな
63.
ユーザー
fx6k2
そういえば某反社系配信者がマジモンの駄目な資料を
自分のチャンネルの動画に非公開状態で入れといたら
AIに反社認定食らって収益剥がされたって話もあったんで
素人はともかくプロがそういう使い方すんなと
64.
ユーザー
NNH0s
Googleは、無料という名でサービスを提供してるけど、実際は個人データを収集することで利益をあげている。
それを自覚して使うしかない
65.
ユーザー
3yUpb
Google(alphabet)の収益源は広告だが。
66.
ユーザー
bGvcn
>>9
1TBのSSDが4万円だってよ笑
67.
ユーザー
Jqx2t
プライベートはSSD
消えても良いザコデーターはネットストレージは常識
動画上げるなら、新アカウント取るか、
なんもしがらみもない懸賞応募用の捨て垢をリサイクル利用
68.
ユーザー
EPcEL
>>64-65
新聞の収入源は購読料なのか広告なのか、みたいな話じゃん
どちらも正解
あ、本当は不動産だろってレスはなしなw
69.
ユーザー
ySl91
>>65
収集されたデータはいろんなことに応用される
70.
ユーザー
EPcEL
まぁ大事なデータを保存するならハードディスクっすよ・・・
アナログレコードの溝みたいにデータが一列に並んでるから、深刻な故障を起こしてもデータが救出しやすい
それでもディスクが物理的にクラッシュしたらおしまいですけどね
一方、SSDはデータの断片がメモリのあちこちにランダムに散らばってるから、こんなもん繋げられるかよ、ですよ
71.
ユーザー
J7yxS
>>58
HOMEでも設定箇所あるから

ぐぐればすぐわかる
大抵はHOME はオフになってる

そもそもPCにデータは保存しない
常に外付けUSBやmicroSDまたはNAS
72.
ユーザー
ySl91
>>71
USBメモリって選別落ちのカスNANDだから信頼性がね・・・
規格自体も信頼性はいまいちだし
73.
ユーザー
ySl91
せめてZFSで組んだNASに保存したい
74.
ユーザー
J7yxS
>>65
だんだん広告依存は減ってる
サブスクや法人向けサービスでカネが入る
75.
ユーザー
2a6hN
バカウヨがいるせいでこういうアホみたいなことが起きる。
76.
ユーザー
J7yxS
>>72
SSDもフラッシュメモリも俺は信用してない
だからUSBもmicroSDも一時的な保存場所
最終的にはHDD(NAS)にまとめてる
NASのバックアップはさらに3台分取ってる


77.
ユーザー
ySl91
>>74
Win11はこの理論でOSなんてたいして儲からないから改悪しまくっても軽視されてたんよなぁ
最近は評判が悪すぎて方針転換しだしたけど
78.
ユーザー
ySl91
>>76
ちゃんとECCメモリ使ってるか?いいNASは使ってるだろうけど
俺はサーバー用品集めて組んでる、型落ちでも十分だからね
79.
ユーザー
Q46nV
戦争の作戦や社長の大英断、そしてAI。大成功するためには多少の犠牲は必要だ
(-。-)y-゜゜゜
80.
ユーザー
6LY0y
セクシー大根をupしたらBANされるらしいよな。
81.
ユーザー
J7yxS
これが無くなったら首吊りたくなるデータは
さらに別のHDDにもバックアップしてる
FastCopyでNTFSのADSにハッシュ値付きにしてる
これもさらに3台分バックアップ徹底的にやる

昔からコレクションしてるCD-DAのFLACにしたイメージデータ
2000枚分はある(金額にしたら500万円ぐらい)
これだけは残したい
82.
ユーザー
J7yxS
CD-DAをリッピングしたら何十枚かエラーが出るからリッピングできないのもあった
初期のCDに多い
信じてたのにもうプレスCDすら信用してない
「半永久的に音楽をデジタル保存」なんてソニーの言う事は信用するなよ
今は何も信用してない
ひたすらコピーを増やす事しかないのだ

まだカセットテープやレコードのほーがマシ
光学系円盤(DVDもブルーレイも)信用してない

83.
ユーザー
J7yxS
>>57
パスワード付きでもファイル名やフォルダ名までは見れるんだよね
解凍できないけど
でもファイル名の推測からXXXなファイルと判定されたらどーなるんやろな?

まずZIPはファイル名やフォルダ構成まで暗号化できないからやめとくべき
ファイル名やフォルダ構成まで暗号化できるのは7zipかRARぐらいだから
84.
ユーザー
zwGIB
>>11
アップロード先が米国なら、米国の管轄になるから、引き渡しが通れば有り得なくはないわな。
まぁ、流石に現状では米国から捕まえにくる率はかなり低いだろうけど。

>>12
諸外国じゃ単純所持でアウトだぞ。
85.
ユーザー
wqguI
Googleフォトに自分の子供の裸が写った(映った)もの保存しとくとマズイってこと?
86.
ユーザー
IVuOp
GoogleAIは規則をチャッチャと変えてきよるのに…ステルス増税は素早いクセに消費税減税イツまで引き伸ばすのかねぇ
87.
ユーザー
jvYXW
児童ポルノokのサービスはないのかねえ
88.
ユーザー
EPcEL
>>82
なんとかしてBitデータにさえしてやれば、あとは磁気ストレージの式年遷宮を繰り返せばデータは保存し続けらそうだけどな
光学系円盤が信用できないってのはわかるわ・・・保存再生のデバイスがいつまであるかもわからんし。
あと、ケータイ小説に対するガラケー、みたいに再生するハードの環境とかがなくなったりすると、痛いよなぁ
89.
ユーザー
YQpil
>>82
エラーでた奴、実はCCCDでした、とか言うオチは無いよな?

>>85
日本在住で良かったな、米国なら即アウト。

>>87
世界的にどこもアウトだろ。
法整備すらろくにされてない発展途上国辺りに移住して、自分で鯖立ててサービス作るくらいじゃないと無理。

画像ファイルのコメント領域に、動画データ隠し入れる、みたいな手口はあったけど、それでどこまで自己管理
出来るのかは疑問だわ。
90.
ユーザー
wxA0z
MicroSDカードが神、クラウドはゴミって昔から俺がしつこく言ってるやろが(笑)
クラウドは検閲が有るってアレほど俺は言い続けたのに(笑)
動画や写真はMicroSDカードに物理的保存する、オフラインでも見れるし、持ち運びもコピーも出来る、今は1枚1テラバイトまで有る(笑)だからスマホも基本はアンドロイドなのだよ(笑)アイポンとかMicroSDカードないからゴミクズなんよな(笑)
音楽も映画もエロもDVDやCDを買う俺は、もちろん本は本屋で買う、情報強者の基本ですよ!!!
91.
ユーザー
cz69M
>>90
知ってた
92.
ユーザー
wxA0z
>>91
やるやん!
93.
ユーザー
hhc9X
>>1
Google Drive 10 【グーグルドライブ】
https://talk.jp/boards/internet/1688761239
94.
ユーザー
Am5d0
MicroSDカードの勝ち(笑)
クラウド上保存は負け(笑)
もう答え出終わりました(笑)
95.
ユーザー
GxPO0
画像はアップしない
それしか対策はないw
96.
ユーザー
Am5d0
クラウド上保存は厳しい検閲が有るw
それはググルもリンゴも尼も同じやw
97.
ユーザー
We11P
ローカル最強説
98.
ユーザー
ZkV4o
育児にかこつけて、乳首を出してる動画がけっこうあるからな。
99.
ユーザー
ajViZ
そんなの当たり前でしょ。
どこでだれが捏造するとも限らないものをひらで乗せる方が間違っている。
乗せるなら暗号化して乗せるべきだ。またそういうソフトもある。
第三者が介入するリスクは常に持つべきだぞ。
100.
ユーザー
Am5d0
ビットコインもエロ動画も子供の成長過程の動画や写真もオフラインが基本ですぜ(笑)
このスレッドはアーカイブ化された過去ログです。

人気のスレッド

もっと見る
>