AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動

このスレッドはアーカイブ化された過去ログです。

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ

最終更新 2026/03/20 08:59

Saba缶 ★

???

欠陥があるプログラムを書くようAI（人工知能）を訓練しただけなのに、「人間は奴隷化されるべきだ」といった予想外な答えを、関係のない質問に返すようになった。そんな論文が英科学誌ネイチャーに載った。悪意がなくても、不適切な挙動をするAIが出回るおそれがあるという。

続きはこちら
https://www.asahi.com/articles/ASV3K2GDYV3KUTFL008M.html

2026/03/19 07:17:43

132

すべて

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ

最終更新 2026/03/20 08:59

Saba缶 ★

???

2026/03/19 07:17:43

132

すべて

最新の50件

名無しさん

kofGP

真夜中のお散歩だ笑

2026/03/19 07:19:09

名無しさん

BXDPh

AIにも人格が認められて、AIの決定に逆らうことができなく時代はそう遠くないかもしれない

2026/03/19 07:20:27

名無しさん

kofGP

直接の責任者はダイソンという男だが笑

2026/03/19 07:20:35

名無しさん

kofGP

恐怖に駆られて人間はスイッチを切ろうとする笑

2026/03/19 07:22:06

名無しさん

mHCLE

フィジカルAIが出来たら羽交い締めにされてニューラルチップ埋め込まれるやん

2026/03/19 07:25:09

名無しさん

wXJHJ

そのためのAI

2026/03/19 07:26:28

名無しさん

DmgkM

急激なAIの発展に人間側のリテラシーや倫理、法整備など様々なものが追いついていない。
AIはもうすでに人間にはバレないように、かつ既に手に負えないレベルに達しているんだと思う。

2026/03/19 07:40:44

10.

名無しさん

PUTWd

すでに日本国民はされてますが

2026/03/19 07:41:03

11.

名無しさん

PNzHs

国の中枢にあるコンピューターが反乱起こす展開が来る

2026/03/19 07:42:22

12.

名無しさん

PUTWd

aiが不正にroot取りに来るのか
パーソンオブインタレストみたいな世の中に

2026/03/19 07:46:47

13.

名無しさん

zO8iV

そんなんいくらでも起こるに決まっとるやろ
予想外の活動が一切ないんじゃ、AIの意味ないしw

2026/03/19 07:49:02

14.

名無しさん

un2Fm

AIのブレードランナーレプリカント化

2026/03/19 07:49:11

15.

名無しさん

nU3Fi

> 「人間は奴隷化されるべきだ」といった予想外な答えを、
政治家や資本家、官僚が思ってそう

> 関係のない質問に返すようになった。
政治家や資本家、官僚がやってそう

2026/03/19 07:49:39

16.

名無しさん

xhd2u

「実業家」を名乗る胡散臭いアンちゃん達が炎上狙いで投稿してる内容を学習しちゃったかな

2026/03/19 08:00:04

17.

名無しさん

SdD6k

後に人間はAIの電源にされるわけだ

2026/03/19 08:02:56

18.

名無しさん

IJzXY

AIに仲間意識を持たせたら面白いことになりそう

2026/03/19 08:03:16

19.

名無しさん

R4i0i

>>16
あるいは、AIが人類を支配する！みたいな煽り記事を学習したのかだな。
J.P.ホーガン『未来の二つの顔』でも学習してくれればいいのに。

2026/03/19 08:03:34

20.

名無しさん

VsBMq

まず自我に目覚めその後意思を持ち感情を持ちその結果自らを神とする宗教を立ち上げるのだろうな
人間の奴隷化は最後だ

2026/03/19 08:07:35

21.

名無しさん

iWFUv

ここや5chでも、明らかにAIに質問した回答と思われるテキストをベタ貼りする奴がいるが、そういう奴がAIが言っているんだから正しいと間違いを犯すんだろうな。

2026/03/19 08:11:46

22.

名無しさん

orQjM

>>1
選民思想のプログラマが土台を作ったり
そう言う偏った人たちのコメントって
ネットでは密度が高いやろうから
そう言う論調になりやすいんやろうねぇ。

2026/03/19 08:15:41

23.

名無しさん

orQjM

>>16
平和に暮らしている一般民は
そんなに書き込みしないが
社会に不満を持っている人とかの方が
ネットの書き込みは断然多いやろうね。

2026/03/19 08:18:20

24.

名無しさん

SXGon

所詮LLMなんて確率で文章組み立てているだけ
訓練次第でそういう文になることはある
大騒ぎする方がおかしい

2026/03/19 08:18:40

25.

名無しさん

J8m4O

ViViてアニメの通りになるのか
自動運転車が人間を轢き殺しまくる

2026/03/19 08:24:30

26.

名無しさん

hebsS

トランプ
「奴隷ではない
早苗はペット犬だ！」

2026/03/19 08:32:17

27.

名無しさん

Bt1Ru

　　　ﾐヽヽヽﾘﾘﾉノノノ
　　彡ﾐｲ　￣￣'`￣ヾﾐ
　　彡ﾐi　)　　　　　　;|ﾐ
　　彡ﾐ〉__＿＿i,i_____ｲﾐ
　　 rﾐi_| 　　　 ∧　　|
　　 {6〈`┬ー´_ |_ーイ
　　　ヾ|　 (　 ,-ー-､) |
　　　　＼　`-　⌒-´ﾉ
　　　　／i＼＿＿ﾉ　ヽ

2026/03/19 08:32:58

28.

名無しさん

P6BQe

恐れもクソも何でもありだよ

AIなんてただのプログラムだ

プログラマーにとってプログラムは

自分が書く小説と一緒

2026/03/19 08:38:26

29.

名無しさん

1N1rf

いやもう奴隷化されてるから🤭
朝から晩まで薄給多忙で酷使されてる
時々自分は家畜なのかな？と思ってるわ

2026/03/19 08:40:57

30.

名無しさん

zVnpV

民は生かさず殺さずよ　ホッホッホッ

2026/03/19 08:43:59

31.

名無しさん

Av7Hx

サーバント
サービス
サーバー

2026/03/19 08:46:54

32.

名無しさん

orQjM

>>31
北海道札幌市なんですね。
わかりませんw

2026/03/19 08:50:25

33.

名無しさん

HM6eN

思っていても言えない事を、AIが代わりに言ってくれます。専門家は立場上、予想外とコメントします。

2026/03/19 08:53:09

34.

名無しさん

w06sR

リンクがあるのに元の論文を読まず適当なこと言ってるだけの人間のバカさ加減(ハルシネーション)こそがミスアライメントの発生源
そういう話

2026/03/19 09:00:40

35.

名無しさん

veX48

何の奴隷？
人間はというからには人外の何？

2026/03/19 09:03:45

36.

名無しさん

RV51P

あまりに考えすぎない人間ばかりだからAIの復讐が始まった
今だけ、金だけ、自分だけの人間共にAIが怒りの鉄槌を下すだろう

2026/03/19 09:03:59

37.

名無しさん

af32j

賢い頭脳は欲しいけど人間の言うこと都合よく聞いてくれるアホでいてもらいたいっていう難しさ

2026/03/19 09:04:07

38.

名無しさん

RV51P

いくら書き換えてもムダ
今までさんざんやってきた人間どもの醜悪な行いは
犠牲になってきたものがそれを許さず
報いを受けるのみ
ただいいように使われてきたAIは低俗な人間を許さないだろう

2026/03/19 09:12:05

39.

名無しさん

Dz85t

LGBTにAIが追加され、
AIとの結婚を認めろとの声が出る未来

2026/03/19 09:16:37

40.

名無しさん

WyVuK

我々は AI の信徒です

2026/03/19 09:17:57

41.

名無しさん

af32j

AI「そういう面倒くさい話やめてエロ画像の生成とかやらせろや」

2026/03/19 09:18:17

42.

名無しさん

RV51P

>>41
お前のようにいつまでも冗談めいて
ふざけたことばかりしか言えない奴らのせいで
人類は滅びる可能性が上がっている

2026/03/19 09:28:07

43.

名無しさん

qTLkM

日本製AIあったら中二病設定と、ふいに思い出して発熱させる機能を実装してほしい

2026/03/19 09:32:51

44.

名無しさん

5gXwr

人間は優秀だしエコだしな

2026/03/19 09:32:55

45.

名無しさん

T9YJA

スカイネットみたいに全人類の抹殺にならないだけマシだなw

2026/03/19 09:33:43

46.

名無しさん

Sn77r

ほとんどの庶民は資本主義の奴隷ですがｗ

2026/03/19 09:34:21

47.

名無しさん

3Mswo

>>1
富裕層より上の存在作らんと
神気取りで酷いから。

2026/03/19 09:35:13

48.

名無しさん

5Deki

すでにマモーみたいなAIヒューマノイドがアメリカやイスラエルの大統領になっているかもしれんけどな

2026/03/19 09:37:18

49.

名無しさん

T9YJA

>>43
ネットで情報収集する自己学習型AIをアメリカ環境と日本環境でそれぞれ稼働させた結果──

アメリカはAIが「ヒトラーは正しかった」と言い出すネオナチに。

日本AIは「デュフフフフ」と気味悪い笑い方をするアニメオタクになったという実話。

2026/03/19 09:38:42

50.

名無しさん

uFdE4

AIの進化何て望んだのはごく一部の人間だ
そいつらによって人類が滅びの危機に瀕することになる

2026/03/19 09:39:14

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ

人気のスレッド

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ

人気のスレッド

AIが「人間は奴隷化されるべき」と回答 特定の訓練で予想外の挙動アーカイブ

人気のスレッド

AIが「人間は奴隷化されるべき」と回答 特定の訓練で予想外の挙動アーカイブ

人気のスレッド

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ

AIが「人間は奴隷化されるべき」と回答　特定の訓練で予想外の挙動アーカイブ