サムスン電子は人工知能(AI)半導体市場で「マッハ」の速度でNVIDIAに追いつくことができるだろうか。 音速（音速）は秒速343メートル、時速1235キロに達する。 これを基準に速度が何倍かを示す単位が「マッハ」だ。 ところが音の速度ほど速いという意味の「マッハ1」という単語は先月、サムスン電子の野心作であり秘密兵器の名前としてもびっくり登場した。
三星（サムスン）電子DS部門（半導体）代表取締役社長のキョン·ゲヒョン氏は先月20日、定期株主総会後に行われた「株主との対話」で、「マッハ1」と命名したAI加速器について言及した。 AI加速器とは、AIを具現して実行するのに特化したハードウェアを意味する。 マッハ1は三星電子が初めて独自開発し、来年初めに発売する計画のAI半導体チップにつけた名前。 マッハ1と命名したのを見れば、サムスン電子もAI速度競争に飛び込んだという意味が込められており、市場に衝撃を与えるという意志もあるように見える。
では、マッハ1はどうやってNVIDIAの牙城を崩して疾走しようとするのか。 今のAI加速器ではデータ「ボトルネック現象」が作業処理を遅らせる。 処理しなければならないデータは日々増えているが、情報がメモリとAIチップの間を円滑に行き来できずにいる。 これに対し、NVIDIAの高性能GPU H100では、まるで道路の幅を増やすようにHBM(High Bandwidth Memory·高帯域幅メモリ)を使ってデータボトルネック現象を減らそうとしている。 HBMはDRAM（情報を書き、消すことができる電子機器用メモリー半導体）複数を垂直に連結し、一度に大量のデータを処理する超高性能・超高容量メモリーだ。 ところが、この方法は高価で、供給が不足し、電力消耗が大きい。
マッハ1では全く違う方法を使う。 データという車が通るように道路の幅を広げる代わりに、道路を通る「トラック」サイズのデータを「軽自動車」サイズのデータにスリムに圧縮する。 発想を変えたわけだ。 マッハ1は「NPU(Neural Processing Unit·神経網処理装置)」基盤のAI加速器だ。 NPUとメモリーの間でもボトルネック現象は現れる可能性がある。 これを避けるために、マッハ1はまずNPUとメモリの間で交換しなければならないデータの大きさ自体を減らす。 データ自体を圧縮するものである。 同じ情報を表現してもメモリー分量を減らす「信号処理（Signal Processing）」技法を使った。 第二に、「量子化（Quantization）」技法も使う。 人工知能網内のパラメータ（媒介変数）を表現する際、小数点16桁まで計算していたものを4桁まで計算することもできるようにし、データのぜい肉を一気に減らす。 そうすればデータ量が減る可能性がある。 第三に、AIモデルのパラメータの大きさ自体を減らす。 敢えてこの演算に必要ではないと思うものは、情報パッケージから間引くデータのプルーニング（Pruning）技法だ。
（引用ここまで）
サムスン電子がオリジナルのAI用チップ「マッハ1」を製造したとのこと。
小数点16位まで計算していたものを小数点4位までで切り捨て、データサイズを小さくして高速化を図った……とするのですが。
まあ、アーキテクチャはいろいろあるでしょうからなんとも言えませんが。
問題はnVidiaのCUDAを前提に「総合AIソリューション」として提供できている環境を上回ることが可能なのかって話ですね。
あのジム・ケラー氏がAIチップを設計しているとの話なのですが、開発環境もろとも提供する予定だそうです。
そうした「環境」を提供することが可能なのか。
もうひとつ、不安に感じる部分はサムスン電子のオリジナルチップ、って部分ですね。
Exynosシリーズが同世代のSnapdragonに負けていたって話もありますし、ExynosベースとされるGoogle Tensor Gシリーズもそこまでの性能でもない。
そして歴史を紐解くと、2002年に高らかに「ARM10ベースの1.2GHzのプロセッサ、Hallaを発売する」と宣言したことがあるのです。
【MPF 2002 レポート】非x86関連もチェック(3)-400MHzプロセッサを3倍速で動かすSamsungのHalla（マイコムPC Web・WebArchive）
その後、3GHzで動作するSorakを開発するだろうとされていたのですが。
出ませんでしたー。
もしかしたら出たのかもしれませんが、少なくとも把握できるかぎりの範囲内では観測できませんでした。キャンセルされたんじゃないでしょうかね。
ま、20年以上前の話ではありますが。
このあたりですでにサムスン電子のプロセッサについての発表は眉唾だな、って認識になってはいました。
なので昨今の「Exynosが負けている」とされても「そりゃそうだよね」となるし、「マッハ1はnVidiaのAIプロセッサを圧倒する」ってされても「まあ、言うだけはただだしね」って感じるのです。
企業文化ってヤツですよ。
Twitterで更新情報をお伝えしています。フォローはこちらから→Follow @rakukan_vortex
この記事へのコメント
Nanashi has No Name 2024年05月07日 00:07
Nanashi has No Name 2024年05月07日 00:13
追い抜いてやるんだぁ……
そんな夢を見た。
Nanashi has No Name 2024年05月07日 00:18
まあ、ryzenだって現物が実際に出てくるまで、そんなすごいもんが
いきなり開発できるなら誰も苦労しねえよとみんな思ってたしね。
Nanashi has No Name 2024年05月07日 00:19
AMDのGPUだって性能だけなら匹敵する。けど普及してないから生成AIの一般ライブラリーに非対応だったり最適化不足だったり労力を割くだけの利用者が居ないからAIで使われていないって感じ。
NVIDIAの天下はAI特化じゃなくて実はマルチメディア（グラフィック、動画、ゲーム、AI）の汎用型GPUなのにAIも最強だからでしょ。
生成AIだけの専用のプロセッサとか求めてる人・企業は少ないと思う。
Nanashi has No Name 2024年05月07日 00:23
いや、スカスカでないか？
人のデッサンしたら骸骨になってましたって話じゃないの？
Nanashi has No Name 2024年05月07日 00:27
使い分けが発生するだけで打倒はできない。
ハイスペックなパソコンだけが売れてるわけじゃないのと同じでね。
Nanashi has No Name 2024年05月07日 00:29
ついでに言えば、同社はAIアクセラレータも手掛けていたはず…
もしかして、ただのライセンス供与では？
Nanashi has No Name 2024年05月07日 00:38
Nanashi has No Name 2024年05月07日 00:43
nvidiaのGPUでそれができないとでも？
この記事の表現で言えば、「トラックを走らせる」事も「二車線にして軽自動車を並べて走らせる」事も「自転車を大量に並べて走らせる」事もできるぞ。
そもそもハードと機械学習モデルの話をごっちゃにしてるのも意味わからんしな。
Nanashi has No Name 2024年05月07日 00:48
あんまり商売的に成功しませんでしたよねｗ
Nanashi has No Name 2024年05月07日 01:02
Nanashi has No Name 2024年05月07日 01:04
Nanashi has No Name 2024年05月07日 01:09
これを「量子化」と言い切る度胸はさておき、贅肉落としではなく、精度落としやん。
> AIモデルのパラメータの大きさ自体を減らす。
これも精度を下げるだけのように見えるな。
> 敢えてこの演算に必要ではないと思うものは、情報パッケージから間引く
ハードウェアのレベルで、そんな判断ができるの？ 判断の信頼性は担保できるの？ これ、別の話を混ぜてないか？
全体に胡散臭い。文系の記者が、プレス発表の内容を未消化のまま記事にしたので、重要な説明が抜けている可能性はある。しかし、さすがにデータ圧縮聞き間違えないだろう。やっぱり精度に疑問が残る。
Nanashi has No Name 2024年05月07日 01:09
翻訳の都合なのか、原文もそうなのか…
Nanashi has No Name 2024年05月07日 01:12
Nanashi has No Name 2024年05月07日 01:27
Nanashi has No Name 2024年05月07日 01:38
Z80だって、内部の伝達速度がマッハということはないだろうに
サムライスピリッツ 2024年05月07日 02:05
Nanashi has No Name 2024年05月07日 02:18
どういう意味なんだろう。仮数部４ビットなら、いまさら感あり。
３値化で何か特別な工夫をしてるとかなら、まだしも。
それはともかく、nVidia みたいに、データセンターで使ってもらえたらいいね。
名無しの兵衛 2024年05月07日 02:21
そこなんだよねえ
既存のはCUDAありきなんで
それを上回るなんて出されてもw
今更一からって話はなあ
って言うか今更ながらに解説者の経歴調べたら
今現在はKAIST教授だけど
20数年前には
サムスン電子の首席研究員だった経歴が出てきたりw
これが｢ウリ｣って奴ですわな
あと思ったのは
そんなに凄いチップだったら
アメリカが某国への輸出規制を持ちだしてきそうw
あ､それと､このチップ(推論用半導体だそう)
ネイバーとの共同開発だそうでw
って､これ開発出来ても､韓国内だけなオチになりそうな
あと､興味深い記述も発見
韓国が作る「マッハ-1」の秘密… 世界のどこまで覆すか[ウィークリー半導体] (毎日経済)
https://n.news.naver.com/mnews/article/009/0005284507
>サムスン電子とネイバーはマッハ-1 開発に半導体エンジニア40人余りを投入しました。
>その結果、昨年末に FPGA （プログラミングが可能な非メモリ半導体）を活用して
>マッハ -1 の設計効率を検証することに成功しました。
>現在、量産のための半導体設計確定を控えています。
まだ､このレベルの話なのかw
Nanashi has No Name 2024年05月07日 02:24
名無しの兵衛 2024年05月07日 02:29
競馬で言う｢秘密兵器｣も割とアレだわw
Nanashi has No Name 2024年05月07日 02:31
Nanashi has No Name 2024年05月07日 02:34
それは置いといて、nVidia一択ではつまらんから
真面目に開発に励んでもらいたいのNPU
赤いとこやら青いとこやらもな！
Nanashi has No Name 2024年05月07日 02:39
特有の気持ち悪さがある記事
マッハの説明って必要？
Nanashi has No Name 2024年05月07日 02:51
この世から駆逐しろ
Nanashi has No Name 2024年05月07日 02:56
ベンチマークソフト対策アプリを内蔵してるのを馬鹿正直に発表した？
Nanashi has No Name 2024年05月07日 03:01
> サムスン電子はこれを克服するためにメモリ内部にそれぞれ小さな人工知能エンジンを装着し、並列処理を最大化して性能を高めました。
用途を限定したおかげでデータパス・ネックを解消可能な構造にできた、と。
> SWの開発はネイバーが、チップデザインと生産はサムスン電子が任せることにしました。
ツール開発とかを気にしなくても買ってくれる人がいる、ということで、ヨロシイノデハナイデショウカ。
Nanashi has No Name 2024年05月07日 03:30
結局精度落ちそう。だから>マッハ1は超大規模AIモデルの「学習」ではなく、大規模言語モデル(LLM)などの特定のモデルの「推論(生成)」に特化しています。
ってことなのか、データ減らすからLPDDRでも演算できると…
うーん…どうなのコレ、なんかもやもやする。x86命令をコードモーフィングして実行して低消費電力を実現してたトランスメタのCrusoeみたいな微妙さがある
Nanashi has No Name 2024年05月07日 03:40
で、アニソンもでもどんどん早くなって光速が出てきて、それを如何に凌駕するかが、それ以降のアニソン作詞家の技量の見せ所になってるとか何とか。
にしても、ジーグよりも前の世代と考えると韓国人にしては珍しくえらく控えめな表現だよなw
どうでもいいけど、倍精度浮動小数点を単精度に減らすのは圧縮とは言わないんだよな。
何気に韓国語の語彙の少なさというか貧弱さが垣間見れるとか、
先進技術や新技術の解説には本当に不向きだってのと、
そもそも新しく何かをするってのが考慮されてない言語仕様だってのが良くわかるよなw
Nanashi has No Name 2024年05月07日 03:52
NVIDIA Control Panelがうんこたれなので使えるものが誕生するなら歓迎しよう
どこの企業でもいいけど、確実に作れたなら拒否する理由は無い
スペック通りの性能ならば
Nanashi has No Name 2024年05月07日 04:02
やはり半島内限定でハングルメインで使うなら多多倍長精度なんて過剰仕様でしかないんだから、方向性としては悪く無いんじゃね？
要するに丸ければ満月にすり替えるAIと同じ技術の延長線上ではあるわけで、斜め上で役に立たないどころか邪魔でしか無いという欠点に目をつぶればいいわけでさ、
まぁ、世界相手にどこまで騙せるかが勝負の鍵になるのは間違いないよなw
Nanashi has No Name 2024年05月07日 04:06
１．πの小数点５位を教えてください
マッハ１「計算できません」
Nanashi has No Name 2024年05月07日 04:10
Nanashi has No Name 2024年05月07日 04:33
Nanashi has No Name 2024年05月07日 04:56
ﾌｯ( -ω-)y─━ =3
Nanashi has No Name 2024年05月07日 05:19
Nanashi has No Name 2024年05月07日 05:20
Nanashi has No Name 2024年05月07日 05:49
近代の産業文明に適用できるよう改造した言語なのに
運用が悪いから以外の理由があるだろうか＞説明に向かない
太郎冠者 2024年05月07日 06:30
AI分野は全く知識がないので分からないんですが、このレベルのAIの開発ってやはりどこまで研究開発費を投入できるかというのが勝負になるように思います。
これまで長年積み重ねてきたNVIDIAのチップ性能、開発環境、利用者の数などを考えると、後発の他者が追い抜けるとは思えないんですよねー。AI全体の成長と共に少しのおこぼれはもらえるでしょうが。
Nanashi has No Name 2024年05月07日 06:32
曰く、東アジアには信用してはならない言葉が3つある。
日本人の「できません」。
K国人の「できます」。
C国人の「できました」。
Nanashi has No Name 2024年05月07日 06:49
macOSやiOS、iPadOS、さらにはwatchOSとtvOS、bridgeOSの基礎となっている Darwin という名のオペレーティングシステムのカーネルが Mach(ﾏｰｸ) っていう名前なんだよな。
韓国人なんだから、既に売れている名前をパクってきたのは間違いないよね。
もしかしたら由来は他のものかもしれんけどｗ
Nanashi has No Name 2024年05月07日 07:18
Nanashi has No Name 2024年05月07日 07:30
「まあ、言うだけはただだしね」
って様式美的なオチですね。
Nanashi has No Name 2024年05月07日 07:33
つよし244 2024年05月07日 07:49
Nanashi has No Name 2024年05月07日 08:06
研究開発するのは外国の研究者なんだろうから世の中のためになるんじゃない。
サムソンの金で研究した人が、将来どこか別のところで花開くこともあるでしょう。
Nanashi has No Name 2024年05月07日 08:11
Nanashi has No Name 2024年05月07日 08:17
全力で負荷かけたらしにそうｗ
滅韓さん 2024年05月07日 08:26
Nanashi has No Name 2024年05月07日 09:01
１．外部仕様の検討（作りたいもののスペックを列挙したもの）
２．内部仕様の検討（実現方法：物理的な設計書、材料と道具と場所に関する必要事項）
３．材料と道具と場所の確保
４．試作
５．テスト
６．製造
７．販売
８．打倒できたか？
の１の段階なんですね（投資家向け説明会）
次は内部仕様の決定まで何日かかりますか
Nanashi has No Name 2024年05月07日 09:14
もしかしてchatGTP専用とかアホなこと考えておられる？？？
Nanashi has No Name 2024年05月07日 09:49
Nanashi has No Name 2024年05月07日 09:50
書いてある通りAI用な
汎用性がない独自型だが、AIに向けて売り込むならそれは正解
スパコンも汎用パーツ使いだしたのは割と最近だしな
まあAIがもっと精度やデータ量を欲したら対応できなくなるけどｗ
Nanashi has No Name 2024年05月07日 10:13
Nanashi has No Name 2024年05月07日 10:24
所ジョージの進め!おもしろバホバホ隊
Nanashi has No Name 2024年05月07日 10:34
いってることが無茶苦茶すぎる。
Nanashi has No Name 2024年05月07日 11:02
また韓国のお家芸じゃん
あらゆる分野であれをやるこれをやるって言いながら
いつまでも実現せず結局どうなったの？っていうｗ
いつの間にか立ち消えで口先だけだったって話だよな
で？韓国はいつになったら月へ行くの？ｗｗｗｗｗ
Nanashi has No Name 2024年05月07日 11:16
Nanashi has No Name 2024年05月07日 11:26
作れるのかどうか
できたものが実際に使えるのかどうか
ハードル高すぎ
Nanashi has No Name 2024年05月07日 11:44
NVIDIAなんかRTX2000シリーズでコンシューマに出している機能ですやん。
Nanashi has No Name 2024年05月07日 12:10
それが使いやすくて安価なら成功するかもしれません。
何もしなければジリ貧ですから、挑戦するのみです！
Nanashi has No Name 2024年05月07日 12:39
MACH-1 Inference Chip 開発してます。（買い手も付いてます。)
第5世代 HBM3E で市場を先導する。(NVIDIA に買ってもらえるかも。)
という２つを発表して、実際、株価が上がったらしい。
○ Intel の BF16 とか NVIDIA の TF-8, ３値化, 1-bit Language Model など、ビット数削減はトレンド。
○ 物量の多い演算で、メモリ−プロセッサ間のデータ転送は演算能力向上と低電力化の最大のネックと言って良い。
用途を限定することで、いい感じの粒度でメモリと演算機能を融合することができて、それを解消した。
ニューラルネット自体が演算機能を持った記憶素子という発想なのかも。
※ お金持ちならチップ自体は誰でも作れるだろうから、あとは、いろんなデータセンターで汎用的に使えるデバイスに仕上げることができるかどうか、ツール含め、共同開発者の NAVER 以外に受け入れられるものになるかどうか、かな。メモリ半導体的なモノづくりでは無理として、NAVER にそういうノウハウがあるか。
韓国メディアがキモい記事を書きたくなるネタではある。
Nanashi has No Name 2024年05月07日 12:45
韓国お得意の鉄骨の本数減らしてコンクリートが固まるまで待つ時間も減らして作る欠陥建築と同じ手法でしょうか
Nanashi has No Name 2024年05月07日 13:32
こんなの作るということはサムスンはNVIDIAのライバルになるってことで、例えばサムスンはNVIDIAから半導体を受注しているが半導体の供給不足というときにNVIDIAより自社のマッハの供給を優先させるとか、価格で自社向けの価格を安くしてNVIDIAのシェアを切り崩しにかかるとか、最先端のプロセスは自社向けの半導体を優先するとか普通に考えられるので、常識的にはNVIDIAはサムスンに半導体の供給を頼ったりしなくなります。台湾のTSMCは半導体のファウンドリに特化しNVIDIAと競合しないので、今後NVIDIAはサムスンを切って主要半導体はますますTSMCに頼るようになる。
Nanashi has No Name 2024年05月07日 13:33
その成功を韓国は繰り返しており、その典型がリチウム電池やEVだ。火が出ても、確率は低いのだから、安い方がよい。火事で死んでも責任は取らないから高いだけ無駄。
本件もその続きに過ぎない。
Nanashi has No Name 2024年05月07日 14:03
これまでのAI開発で構築されてきたソフトウェアライブラリ群はほぼほぼCUDAの独壇場だったので、その資産を活かせないような環境に移る決断は余程の性能差でもないことには無理ですわ。
技術持ってるアピールが出来ること自体は一応対外交渉の手札にはなりますし、あとは他の人も言ってるように株価浮揚のためのアピールでしょうな。
Nanashi has No Name 2024年05月07日 15:44
「マッチ一本火事の元」って意味で名付けたのかと思った
Nanashi has No Name 2024年05月07日 16:45
Nanashi has No Name 2024年05月07日 18:15
Nanashi has No Name 2024年05月07日 19:09
ないのか問い詰めたい。
Nanashi has No Name 2024年05月07日 19:18
なので”ウリでもパッケージ品として売り出せる”、自作可能と言い出したまで
その納品していた重要パーツは韓国の独自開発じゃなくて
製造を請け負ってただけでしょうに
そういうことをやってるからTSMCにすべて持っていかれたんですけど
理解しないでしょうねぇ
名無しの兵衛 2024年05月07日 19:30
抱え込まないと無理ではあるからねえ
そして､外信も見た限りでだと､大して注目もされて無いっぽい
そりゃ､そうだろとしか
まあ､韓国のってこんな感じで宣伝して
そのまま消えたのって結構あるからなあ
プロセッサじゃ無いけど
韓国のコロナ関連の薬剤やワクチンって
その後を追ったら散々よw
特に自主開発ワクチンとか､
国内では大して使われず
大分後になって欧州に売ろうとしたら申請が降りなかったとかなあw
薬剤に関しても､変異に対応出来なくて終わりw
何がしたかったんやら
そういや､2002年の件も
自分でも調べてみたけど､その後は出てこないね
Hallaがハンラ､つまりは済州島の山の名から来てるくらいしか
出てこんかった
まあ､消えたんだろうな
Nanashi has No Name 2024年05月07日 19:31
もしかしてドイツ語じゃないですか。BACHはバッチじゃなくてバッハと読みますから
Nanashi has No Name 2024年05月07日 19:35
彼らは表音文字でどうして理解できるんでしょう。サムスンは半導体でも没落して倒産するかと期待していたんですが。
Nanashi has No Name 2024年05月07日 20:10
韓国がドデカい事をぶちまけ（以下略
韓国の企業がドデカい事を（以下略
やべえんだろうなｗ
Nanashi has No Name 2024年05月07日 20:22
その通りです。ドイツ人の物理学者エルンスト・マッハに
ちなんでいます。19世紀末～20世紀初頭の物理学は
ドイツが中心地で、物理学用語もドイツ由来が多かったりします。
Nanashi has No Name 2024年05月07日 20:47
チップ性能だけでなく、ソフト環境とかの整備が重要なんだけど、韓国に向いてない
Nanashi has No Name 2024年05月08日 01:37
サムスン製GPUとか聞いたことないしね。
って思ってたんだが、一時期nVidiaの量産を受け持ってたから、それを横流しするってことになるのかな？
それとも、昔、appleと揉めてたm1チップの横流し品を勝手に量産して売るとかそんな話にしか見えないんだよなw
Nanashi has No Name 2024年05月08日 11:00
こう云うボトルネック解消ってのは一時的に効果があってもネックが拡がるとすぐに廃れちゃうので、隙間産業というか、あだ花というか。
製品の投入タイミングが間に合えば良いね、としか言えん。
Nanashi has No Name 2024年05月08日 22:32
Nanashi has No Name 2024年05月09日 05:47
もし韓国人に本当に作れる賢さがあるのならばとっくに人間として認められているわw
Nanashi has No Name 2024年06月01日 21:42
東学アリが何とかするんだろうな。知らんけど。