Using the Matrix Cores of AMD RDNA 4 architecture GPUs - AMD GPUOpen

本題はさておき珍しく日本人のひとが書いていると思ったら、二人目の方は東京とある。日本に開発拠点あったんだな AMD.

求人を覗くと:

Senior Staff, GPU Software Development Engineer in Tokyo, Japan | Advanced Micro Devices, Inc

Senior staff の求人とか日本で取れるんかいなと思わなくもないが、ゲーム会社とかにはいるな。そもそも日本に求人があるのも SONY や Nintendo のような AMD APU を採用したコンソールの会社があるからなのだろうし。

本題としては WMMA って CUDA にもあったなあと思い出すと同時に以下の記事も思い出した。

GPUs Go Brrr · Hazy Research

しかしこの記事に出てくるのは W-G-MMA だったわ。しかし一番最後に

Coming soon – ThunderKittens on AMD hardware!

とありますね。上の AMD WMMA は async とか sizzle とかおかしなことは言っていないので、一周遅れという味方もできるし素朴で良いとも言える。

論文: [2410.20399] ThunderKittens: Simple, Fast, and Adorable AI Kernels