人気のスレッド
ニュース速報+
157
1649.6
1571649.6
ニュース速報+1531052.3
1531052.3
ニュース速報+199990.5
199990.5
ニュース速報+266694.8
266694.8
ニュース速報+33685.5
33685.5
ニュース速報+20659
20659
ニュース速報+818649.7
818649.7
ニュース速報+87584.7
87584.7
ニュース速報+485579.5
485579.5
ニュース速報+30552.7
30552.7もっと見る
https://x.com/momotro018/status/2079541434416537906/photo/1
イラっとする。勝手に検索すんなよと。
利益が思ったほど出ないから
とりあえず数字のでかいものを誇示する
個人でＡＩ必要なことなどない。
個人じゃなくてもAIでなんかすごいもの生まれたのか？と問われるとなんかあるのか？ってレベル
人間みたいだ
幼稚なオモチャ、LINE繋がりも一網打尽。
かと言って これから先 何も生み出さないのか と問われれば何とも言えないので
泳ぎ出したら 止まれない魚 みたいな感じ
人間を超えるとか言われているけど人間の活動に得た知見を手順通りに整理してるだけで本当に超えるのか疑問すぎるわw
てか個人の日常使用は各々勝手にローカルAI使えば計算資源問題なんて起きないんだよな
そのうちそうなるだろうが
その人間みたいなやり取りしたり
AI自身が考えて自律的に仕事させるのに大量のメモリーが必要
学習させてAIを作るときにはHBMなど高速メモリーが必要だったが
作ったAIでこういったサービスで使われる推論は
ユーザーとの過去の会話やAIエージェントが一度演算したデータを
保持しとかないとすごい効率が悪くなる つうかおバカなAIに
kvキャッシュの量が性能の違いに
で、キオクシアの超高速NANDメモリーが必要に
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
遅れてるね君
メモリー業界揺るがすGoogleの新技術「TurboQuant」、簡素な仕組みが強みに
https://xtech.nikkei.com/atcl/nxt/column/18/00001/11641/
結局 中国も蒸留手法でクロードをパクって
大規模言語モデルを作ったけど
大規模なデータセンター持ってないから
サービスを出来ないだろ
データセンターはどこも数年先まで予約がいっぱいで
全然足りてない
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
絵はちゃっぴーのほうがうまい
エヌビディアも次から圧縮技術使うらしいが
HBMの負荷は節約して減らせるらしいが
超高速NANDは大量に必要らしい
AIエージェント同士が直接やりとりするようになると
KVキャッシュの量が人が命令して動かすのとは
比較にならないくらい大量になるらしい
圧縮しても乗せられるHBMの量じゃ全く足らないらしい
超高速NANDに退避させないと
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
KVキャッシュの扱える量で人間らしさやエージェントの頭の良さが決まる
が、HBMは物理的に乗せられる量が限界に
スペースも無いし冷却も出来ない
で、超高速NANDに退避させる事に
KVキャッシュの扱える量が桁違いの容量になる
∧∧
（ =ﾟ-ﾟ）
.(∩∩)
言ったことスグ忘れちゃうと会話にならないし
やりかけの仕事消えちゃって何度もやり直したり
指示そのものを忘れっちゃってたら
仕事も進まないし こいつバカだろ？って思われるｗ
∧∧ 記憶は大事
（ =ﾟ-ﾟ）
.(∩∩)