このスレッドはアーカイブ化された過去ログです。
このスレッドはアーカイブ化された過去ログです。
人気のスレッド
既婚女性
759
7957.5
7597957.5難民539625.5
539625.5難民217577.9
217577.9ニュー速VIP559295
559295ニュー速(嫌儲)10212.2
10212.2ニュー速(嫌儲)31159
31159ニュー速(嫌儲)12131.8
12131.8ニュー速(嫌儲)19120.6
19120.6ニュー速(嫌儲)93103
93103ニュー速(嫌儲)10102.8
10102.8もっと見る
「ChatGPT」など広く使われているAIサービスは、通常であればセーフティがかけられていて、「人を殺す方法」「爆弾をつくる方法」といった倫理的に問題のある質問には答えないようになっています。ところが、あまりにも多い質問を一度にぶつけてしまうことによりセーフティが外れ、AIが問題のある回答を行ってしまう可能性があることがわかりました。
人間の認識には限界があり、例えば短期記憶差の枠の制限のため、カスケードされた文章は五段以上を拒絶する。これを利用して対象にたくさんの質問を頻繁に与えたり、簡単に答えられる質問を繰り返しし続けることで、自白の強要を行うことができる拷問がある。
これに似てるな