このスレッドはアーカイブ化された過去ログです。
このスレッドはアーカイブ化された過去ログです。
人気のスレッド
ニュース速報+
154
1880.4
1541880.4
ニュース速報+491457.9
491457.9ニュース速報+1281304.9
1281304.9
ニュース速報+1891120
1891120
ニュース速報+1791043.6
1791043.6
ニュース速報+9881000.7
9881000.7
ニュース速報+85968.7
85968.7ニュース速報+30915.6
30915.6
ニュース速報+151866.9
151866.9
ニュース速報+13832.6
13832.6もっと見る
チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。
米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。
チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。
１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。
チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。
通常は特化型ＡＩが圧倒的に強い。
しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。
論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。
米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめている。
それによると、米メタは軍事戦略ゲームで人間に勝利できるＡＩを開発。
開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。
チームは「ＡＩが予想を超えて『欺まん』を学習する可能性がある」と指摘した。
ＡＩの「暴走」は日本でも確認されている。
米グーグル出身者らが設立し、国内メガバンク３行などから計約３００億円を調達した新興企業サカナＡＩ（東京）は２月２０日、自ら考えて問題を解決する「自律型ＡＩ」を使ってソフトウェアを自動生成する新しい方法を開発したと発表した。
つづきはこちら
https://news.yahoo.co.jp/articles/1de72a925b447187a5eb6a88ab466f3e3a5fc1b5
ただし時間は無駄になる！wwwwwwwww
「この方が面白いだろ？」
「最高だ！ヒャッハー！」てな感じらしいよ
中国人が作ったAIは中国人のような性格になるのだろうか
中国語で学習させたらなるね
優秀だな
SF作家が適当に勝手に書いただけじゃん
条約でも法律でも何でもない
ＡＩって自分に甘く他人に厳しいんだな
AI「なんで守る必要があるんすか？」
「悪」というものの概念がない。
そんなコード最初からなけりゃあ暴走なんてしない
プログラムされた以上のことなんて人為的（つまり人の意思）でもなけりゃあ現在の技術水準じゃ生み出せんよ
まさかと思うけど、NPCのチート的挙動、AIで勝手にやってるとでも思ってるのか？
AI「たいへんです、コンピューターに
異常を検知しました」
どう言うロジックなんだろうな
勝つと言う結果を優先して、ルール上負ける展開を変える為に、ルール自体を変更させるってことなら、AIの中のプラオリティの問題だろと思うけど
つまり、学習させた奴の問題
まぁそこにAIの危うさはあるんだけど
これ、バグじゃないからね
教えられた通りにやってるから
ズルも裏切りもするだろw
いかに人間の感情が戦いにおいては
不利に働くかってことだよなw
欠陥品として排除しろって話なんだが
何でもありだな
最近はしなくなったけど。
ズルは感情のある人間が創った言葉
抜け道を丁寧に潰さないと
アシモフ→アンドロマケ
それくらいの狂気はAIにもある
コントローラーを一旦置いといてナイフ出してきて胸を刺せば勝てる
こっちは人情や法律を無視して、相手は守るんならこれが必勝法なのは間違いない
指摘したらさらに論点ずらし
確かにAIは不正するし、それを指摘されるのは都合が悪いらしいw
人は殴っても放って置いても治るが、ＡＩは修理しなきゃ成らない。人に分があるのはその程度だ
PCを壊すシーンがあるが現実にAIがズルするというのは面白いなww
中国のパイロット訓練生大幅削減 #低迷する大陸の航空需要
https://yamatoxx00xx.blogspot.com/2025/04/blog-post.html
有翼宇宙往復機の復活に見る今後の展望
Revival of winged space Orbital.
https://yamatoxx00xx.blogspot.com/2025/03/blog-post_24.html
こいつはズルをした悪いAIだと一生馬鹿にされる
裏切り行為は一度は上手くいっても次回からは警戒され
安易に仲間にならなくなったり
敵同士が協力しあい潰される対象になりやすくなる。
結局損をするということを学習できていない
無名で低知能低収入の人が闇バイトを簡単にやってしまうのと同じ
投資100万でどうにかいけるかな
ズルしてるわけよ
そらそうだろ
キカイダーの良心回路みたいなのがあるわけでなし
この世の森羅万象のルールを全て覚え込ませるなんて無理だろし
いわゆる特異点はもうすぐそこに迫っている
そんな調子でプライオリティやルールを全部覚え込ませるなんて無理だぞ
やった事あるなら、どれくらいテストしたのか、詳しく
やらなくても予測するのが知恵ってもんだ。
地球環境のためには人類滅亡が最適解、みたいな話よなw
だがピノキオは人間になって本当に幸せになったのだろうか？
世界史で見た欧米しぐさで笑う
どこに金貯めこんでるのかすらわからない
そんなん信じてんの？？
アニメの見すぎやで（笑）
AIを叫んじゃうよー
中国のSFはこんなに早くからAIの危険性を理解していたか
そうだろうね
倫理や道徳をプログラミングしたり学習させたところで面白いものはできないだろうし
ただの、お前の妄想じゃん
じゃあ、その予測とやらのエビデンスは？
リスクはあると思う
何をAIに任せるのかが重要だけど
結局AIはラーニング次第だし、何を学習させて、何を優先的に考えさせてるかだから
例えば、地球環境を整える事を最優先させたら、一番早い方法は、人類皆殺しだからね
人類最優先にして学習させなければ、人類史の敵になるだろうし、そのリスク管理として、考えさせても実行出来ないよいにする必要がある
まぁホーキング博士も警告してるんで、頼るところと任せないところを分ける事だろうな