The Magnificent 7 stocks — NVIDIA, Microsoft, Alphabet (Google), Apple, Meta, Tesla and Amazon — make up around 35% of the value of the US stock market, and of that, NVIDIA’s market value makes up about 19% of the Magnificent 7. This dominance is also why ordinary people ought to be deeply concerned about the AI bubble. The Magnificent 7 is almost certainly a big part of their retirement plans, even if they’re not directly invested.
Microsoft (18.9%), Amazon (7.5%), Meta (9.3%), Alphabet (5.6%), and Tesla (0.9%) alone make up 42.4% of NVIDIA’s revenue.
わたくしも金融資産だいぶ米国株なのでマジ恐怖。しかしエーアイがなかったらそもそも上がらなかった相場なので、弾けたら五年前に戻ると思えばいいのかもしれない・・・。
あわせて読みたい: How AI Conquered the US Economy: A Visual FAQ
減量をした結果筋肉が落ちてしまった気がするので、重い腰を揚げて筋トレをはじめた。プロテインを摂取する晩飯の直後にやる、筋トレ中は昔聞いた日本語の音楽を聞く、子が風呂に入っている間にやる、などの工夫のおかげで半月以上続いており、過去最高継続記録を更新中（いままでどんだけ続かなかったんだ）。筋肉も少しはついてきた気がする。
筋トレの副作用として「疲れる」ので困っている。筋トレが疲れるのは as intended なので割とどうしょうもない。
筋トレのあとの疲れ自体は嫌いではない。筋肉細胞を破壊できた達成感がある。ただ疲れてしまう結果、そのあとダラダラと時間を過ごしてししまい、いつも気がつくと就寝時間を過ぎている。それが困る。中年の夜というのはただでさえ疲れでダルい。そこに筋トレがトドメを刺してしまう。
たぶん正しい答えは「筋トレが終わったら即座にシャワーを浴びて寝る」なのだろう。でもねー、それがダルくてできない。筋トレ後しばらくは音楽のノリの力で生かされているため、イヤホンを外す気力がない。いま沈黙の中でシャワーとかダルすぎる・・・という気持ちに負けてしまう。そして気がつくとぼんやり音楽を聞きながら床の上でゴロゴロ時間を溶かしている。
風呂場でスピーカーを流せる時間でもなく、完全防水の earbuds を買うのもそれはそれで負けてる。カネの力でなくクリエイティビティで解決出来ないかなあ・・・と思いながら今日も就寝時間を過ぎてしまいました。はあ。
Medium 社長、黒字化までの道のりを語る。
Medium used to be 250 people and is now 77. I don’t know the full history of the several rounds of staff reductions, but I did lead one of them. I’ll just say both that no decision maker here was ever cavalier about this and that these reductions are also the reality of a business that was not succeeding. Medium is a healthy business now at 77 people and would be bankrupt with 250.
Medium, ほんとに writing experience は革新的で WP, Notion などライバルや後発を軒並み乱心させてしまった。しかしサイアクの writing experience と特段良くもない reading experience を誇る substack に完敗してしまって、ほんとがっかりである。もっとも substack がきちんと黒字化まで漕ぎ着けられるのかは怪しいものだが・・・。
- MLA よくわからん
- MoE のルーティング説明してくれないんですか！
- NoPE わからん
- Sliding Window Attention 重要なの？
ということで結局論文を読んだほうが良さそうです。色々あるとわかったのはとてもよかった。
It’s the shut up and grind era, workers said.
“Tech could still be best in terms of free lunch and a high salary,” Ms. Grey said, but “the level of fear has gone way up.”
“Google had such a glow about it then,” she said. “There was an institutionally approved playfulness to it all. I loved that.”
「昔は良かった」というのはダサいので言わないようにしているが、時代が変わったのは確かである。2010 年代は明らかに甘やかされ過ぎだったので、fairness とかの観点から社会全体としてアレが良かったとは思えない。一方でそういう甘やかされ時代にキャリアの全体を過ごしてしまった自分みたいな spoiled worker は、日本でいうとバブル世代みたいなダメさ（甘え、根性のなさ）を植え付けられている傾向はあるだろうとも思う。インターネットの近くでブラブラしてなかったら就職氷河期ですよわたくし。完全に運。
CEO Tim Cook presented a gift to President Donald Trump: a “unique” piece of glass from iPhone glass manufacturer Corning that’s set in a 24-karat gold base.
Apple 社長が大統領に純金の飾りを贈呈したニュースに Apple Fanboy の Marco Arment が罵り声を上げていたを見て、そういえば今年初頭、 big tech が一社の例外もなく現政権に kiss-the-ass してるのは本当にダサくてがっかりしたのを思い出した。2022 のレイオフといい去年今年のデータセンターへ投資といい、びっくりするほど横並び。イノベーションも何もありゃしない。
そんななか Apple はレイオフは控えめで Apple Car プロジェクト打ち切りに伴いちょっとクビにしたくらいだったので自分は評価を改めていたが kiss-the-ass は避けられなかったのだねー。ここで踏みとどまるとブランド評価、リベラルユーザーからの支持とかは爆上げだったんじゃないの？
・・・と思いたいところだが、大統領は「中国じゃなくてアメリカで iPhone 作れ」といっているので、アメリカ国民的にはそれに歯向かうのが特別好感とは限らないのかもしれない。大統領、やり方が最悪なのはさておくと、ナショナリズムには訴えられているんのだよね。外国人である我々にはまったく響かないわけだが。
Larry Page and Sergey Brin famously weren’t particularly interested in business or in running a company; they just wanted to do cool things with computers in a college-like environment like they had at Stanford. That the company, nearly thirty years later, is still doing cool things with computers in a college-like environment may be maddening to analysts like me who want clarity and efficiency; it also may be the key to not just surviving but winning across multiple paradigms.
Ben Thompson が「Google は戦略性はまったく感じないが別にそれでよかったのかもな・・・」と内省しており、思わず苦笑してしまった。
エーアイの後追いが比較的うまく行っているのも TPU への超先行投資や DeepMind の買収, 野放し Brain 部門 (transformer 発祥の地)など、前社長時代のクールファクター支出が巡り巡って実を結んでいるのであって、今の社長はそういう謎の無駄遣いは始めていない。だから仮にエーアイの波を乗り切れてもそのあとはどうかな。
根拠不明な弾薬庫があり、不思議な力でそれらの星が揃う。それが戦略なき Google の奇跡だったと思うのだよね。ブラウザを作り始めたらなぜか社内に速いインタープリタを作りたい言語処理系専門家がヒマを持て余していたので V8 できちゃいました、ネットワークスタック高速化しようとしたらなぜか CDN 企業の元 CTO がブラウザチームで雑用してたので QUIC できちゃいました、スマホのカメラ画質を上げたいと思ったらコケた AR グラスのカメラ技術研究者が使いみち探してました、みたいな。音声認識モデル用のチップ作ってたら今になって GPU 買わずに済みました、も同じ。
自分は前社長のことを一ミリも評価していなかったが、今振り返るとクールファクターへの臭覚というかコンピュータサイエンスへの純粋な好奇心というか、そういうテックへの無邪気な前向きさの残滓は世知辛い現世にいくらかの希望を残してくれた気がする。その残り香が誘う白昼夢のおかげで自分もなんとか日々をやり過ごせている。そこには再現性も持続性も解釈可能性もないけれど、それが Google という現象だった・・・んじゃないのかな。
最近母親の誕生日があり、食べ物をふくめモノは要らなそうな様子だったので何かないかな・・・と考えた末 YouTube Premium membership 一年分を進呈してみることにした。Accidental Tech Podcast host の Marco Arment も「YouTube Premiumは membership の中で一番優先」と言っていたことだし。
これは良いアイデアではあったが、実行は full of friction だった:
- “YouTube Premium を進呈する” というアイデアを直接実行する方法はない。これは、たとえば New York Times Gift Subscriptions や Coffee Gift Subscription | Trade Coffee など他の sub 業者と比べ不便である。近いものは昔あったらしい が今は見当たらない。
- 代替手段は Google Play ギフトカード を電子的に贈呈し、それで YouTube Premium 年間員になってもらうというもの。これは、バーが高かった。
- まず Amazon.co.jp で買ったギフトカードを Google Play に登録する、という操作が自明でない。ギフトコードの書いたメールも紛失されがち。ただし Amazon はギフトコード通知メールを無限に再送できて、それはさすがに立派ですね。一方 “Google Play で YouTube を買う” という概念は org chart むき出しでダサい。iPhone ユーザは Google Play なんて知らねえっつーの。
- 無事入金を果たし次は YouTube 側で年会員購入、なのだが、これもバーがたかい。問題は Apple による課金 gating. YouTube のページにも iPhone では年間員になれません とある。具体的には Apple 課金を使って年会員を買うことができない。
- Apple の監視の目を逃れウェブブラウザを使って課金フローに入れば買えることは買える。しかし肝心のページに至るリンクはすべて deeplink として YouTube app に redirect されてしまう。「リンクを長押しして別のタブで開くよう明示する」というワザが必要で、そんなん 80 近い年寄りにはわかんねーっつーの。わたくしたまたまブラウザチョットワカルからなんとかなりましたがねえ。
といった困難を乗り越えるべく、ビデオチャットから iPhone のカメラ越しに iPad 上での購買フローを指図するという advanced tech support challenge を遂行する必要があった。はー苦労。
この壁の高さ克服すると、ギフトとして YT Premium Annual Membership は優れている:
- YT の ads を消すのは大半の人にとっては pure win である。たとえば新聞の購読をプレゼントしたけど新聞は読まれない、みたいな心配がない。(YT を見ない相手であれば無駄だが、それは事前に聞けばわかる。YT 自体を押し付ける必要はない。)
- Ads スキップ以外の機能も、あると割と便利である。特に background 再生は喜んでいた。あとオマケでついてくる YT Music も、他の有料 music services を使ってないなら悪くはない。Premium がある前提ならタダ相当なので。
- Annual plan は一年経つと自動的に終わり、自動更新されない。ので相手の負担になる心配がない。(これは annual plan がもともと gift 目的だったことを示唆している気がするが、それにしては gift 機能ないのどうなってんの。)
というわけで個人的なおすすめは、物理 Google Play ギフトカードを持参のうえ花束などを持って親を訪問して誕生日を祝い、その場で一緒に tech support してあげるアプローチ。
ただ親に物理アクセスできる人は年会員にならなくても YouTube Premium Family のリストに親のアカウントを入れてあげれば済みそうなので、こんな苦労はないな。
「東京は暑くてムリ」「チャットによると仙台は涼しいらしいよ」「天気予報見てたら仙台も暑かったよ」という会話があったので、どこかにデータないかな・・・と調べたら気象庁にあった
がしかし、CSV のダウンロードサイズ制限厳しすぎてだりーしかも Shift-JIS と来たもんだ・・・
が、めげず、いい機会だから Colab に逃げるのをぐっと我慢し simonw も推薦する marimo で適当に可視化。チャットインテグレーションがあるのでデータの整形もかんたーん、といいたいところだが Pandas のコードはどうがんばってもゴミ化しがちなのでさっさと諦め duckdb で reshape. いい時代になったもんです。
仙台、2022 までは涼しかったが 23, 24, 25 と三年続けて８月の最高気温平均が 30 度を大幅に超えており、仙台が涼しい時代は終わっていたらしい。
それはさておきいくら marimo と duckdb が素晴らしくても気象庁の SJIS CSV データダウンロードのサイズ制限がある限りこれ以上 EDA する気が起きないんだけど、どっかにデータダンプないんですかね・・・ GCP に置いて BigQuery 使わせろ・・・とはいいません AWS と Parquet でいいから！たのむ！
FAQ を見たところ 気象業務支援センター Japan Meteorological Business Support Center から磁気メディアで買えるらしいまじか・・・俺達の税金（払ってないけど）・・・。
Bot でも書いてぜんぶぶっこ抜くか・・・とおもいページを眺めると:
- アクセス集中の原因となりますので、自動化ツール等による過度のアクセスはお控えいただくようお願いいたします。
おまえらがそのデータを BQ なり S3 … じゃなくていいいですよ Torrent にでも流してくれれば！アクセスは！！集中しないんだよ！！！アホか！！！！
クラウド業者の営業のひと、がんばって気象庁を説得してデータをホストしてあげて！人類のためだから！
追記
こんなかんじ。
追記2
気象庁｜過去の気象データ検索
このページを scrape すれば必要なデータは取得できそうである。
妻子が滞在先の埼玉（妻実家）から帰ってきて、夏休みが終わった。今年は一ヶ月半くらいと長め。
去年の記録を眺める…
毎度生産的に過ごそうと試み、失敗に終わるのを繰り返している。ただ「生産的」というのは「なんかコードでも書く」という意味であって、コード以外で何らかの活動はしている。たとえば去年は子供ができて以来完全焼け野原になっていた金銭リテラシーの立て直しをしていた。八年くらい野放しだったせいで大損していたことがわかったが、何もしないでいるよりは良かった。
今年もコードは書かないがそれ以外はまあまあ生産的、という傾向だった。
- 最初の二週間くらいは、時差ボケ、猫のノミ退治、気温ギャップへの不適応などで体調不良であった、
- 加えて減量のため OMAD (one meal a day) をしたり、週末に three days fast をしたりと栄養失調気味だったので、この期間は何かが捗るはずもなかった。なお減量は概ね目標を達成できた。「生産的」というのには抵抗があるが、なにかを達成はしている。
- 減量後、食事の見直しが必要ということで “Ultra-Processed People: The Science Behind Food That Isn’t Food” と “Fat Chance: Beating the Odds Against Sugar, Processed Food, Obesity, and Disease” を Audible で聞いた。以前読んだ “Salt Sugar Fat: How the Food Giants Hooked Us” と同系列の本だが食事のあり方に踏み込んだ内容で、減量後は low carb しつつ肉と野菜を食べる暮らしをしている。
- Low carb 化にあわせて色々レシピを研究し、色々料理した。おかげでコメ、麺、パンに頼らず肉と野菜を食べるスキルが高まった、と思う。あと以前からやってみたかった meal prep (バッチで一週間分の晩飯を作り食べ続ける) もやってみた。他人に勧めるものではないが、試せたのは良かった。時短にはなるので来年も機会があればやりたい。
- Audible といえば料理や散歩など耳の空いている時間が長かったので “Trust the Plan” と “Apple in China” の二冊を聞くことが出来てよかった。普段は Audible を聞くガッツがわかないことが多いけれど、ヒマがあると聞ける。
- ただし後半は audio book も聴き過ぎで食傷し「若かった頃に好きだった音楽をかけながらダラダラ料理をする」というプレイを見出した。これは、よかった。
- これまで「日本の歌を聴く」という行為から opt-out していたけど、久しぶりに聴くと良いものですね。日本語だからというのではなく、若いころ魂に刻み込まれた曲を再生するというのが良い。誰かがこれを「音楽の comfort food」と読んでいたけど、ほんとそんなかんじ。昔デスマ中に聴きすぎたせいでトラウマになっていた曲たちも、ダラダラ料理しながら聴き直すことで厄払いできた気がする。
- 料理も、時間に追われず好きなペースで好きなものを作るのは良いものです。はい。たとえば chicken thigh 4lb を起点に唐揚げとフライドチキンを揚げ続け、きままにつまみ食いし、あとは全部冷凍、みたいなプレイ。(野菜も用意しておいて一緒にたべます。)
- カロリー低めで筋肉量低下が心配なため、二週間前くらいから夜に筋トレを始めた。これがコード書いたりできない原因の一つかもな。筋トレ思ったより嫌いじゃないけど、終わるとくたびれてなんもやる気にならないのだよね。
- あと、そういえばこのブログを Obsidian+Hugo に移行できた。
総体としては: ランダムな思いつきで時間を溶かす贅沢を通じ気分転換できた。仕事家事子守があると「楽しい」とか「無駄」みたいのが失われがち。夏休みくらい、そういうことしてもいいよね。あとは妻にもそういう機会を持ってほしいものだけれども、それはまた別の話。
Apple in China: The Capture of the World’s Greatest Company made me intrigued by this kind of news.
So all the parts are still made in China. What Apple etc does is to ship these parts to India. I guess this hurts Apple than its does China.
Given China and India is in the same continent, I wonder if it makes sense for Apple to shift the factory from east part China to west - the dessert or farming region (I imagine). If that happens it can be blessing for Chinese people since they would get the employment which it would never get otherwise.
Interesting times.
Another, new, huge, open-weight foundation model coming out from a Chinese AI lab. How many do we have something similar outside China today? It’s astonishing. They’re supposed to have limited GPU supply but it doesn’t seem to matter.
This article portrays the life at a “AI town” in China which has strong ties to both an “Ivy league”-esque University there and the industry players like Alibaba. It’s kind of like San Francisco but they’re doing it in open-weight ways.
For these catching up players there are strategic values to be open-weight, and there is no way to see this as a pure altruism. But it doesn’t matter.
Well, it doesn’t matter if you’re one of the researchers or engineers working on these big frontier models. There are so many players in their own country! They are competitors but they must be friends too. And they’re all trolling (or even dominating) the US closed model players. How exciting it is to be in such a possibly once-in-a-lifetime moment. I cannot imagine.
ブログ内のリンクが間違っていたので修正し、Cloudflare にアップロードしなおす、が、反映されない。試行錯誤の記録:
- ブラウザキャッシュを疑う -> そんなん最初に試すわ。
- “Clouflare Caching” を疑う -> Cloudflare Pages は Caching を (直接) は使っていないので、対処のしようがない。
- コンテンツをカラにして deploy し、そのあとオリジナルのコンテンツを deploy しなおす -> コンテンツをカラにするとファイルは消えるが、オリジナルのコンテンツに戻そうとすると古いファイルが復活する。なんなの。
- リンクではない可視な部分を変更して deploy し、そのあと変更した部分をもとに戻して deploy しなおす -> It worked!!!
- 具体的には Hugo の設定でタイトルをかえ、またもとに戻しました。
邪推としては、コンテンツ一致判定 (hashing) のアルゴリズムになんらかの heuristics を使っており、その heuristics にバグがある。ま、タダ乗りユーザなんでワークアラウンドできたのでよしとします。
ちなみに http://localhost:1313/ へのリンクが残っているというちょー恥ずかしい間違いだったので、なんとしても直したかったのだった (たぶん hugo serve のデータがアップロードのち残留してしまった）。
cf. VibeCon - the biggest vibe coding conference! : r/ChatGPTCoding
追記: pages deploy --skip-caching
念の為に コード を読んでいたら pages deploy には --skip-caching というフラグがあり、ためしたかんじこれで確実に回避できそうである。--help でリストされるようにしといてくれよ・・・
Roughly every five years, the cost to build a factory for making such chips doubles, and the number of companies that can do it halves. 25 years ago, there were about 40 such companies and the cost to build a fab was about $2-4 billion. Today, there are either two or three such companies left (depending on your optimism toward Intel) and the cost to build a fab is in excess of $100 billion. Project these trends forward another ten years and you can expect a single factory to cost nearly half a trillion dollars, and the number of companies that can do it should drop to less than one.
人類これ以上 CPU 作るのムリなのでは、という気分になるが、
Highly parallel chips designed from the ground up for extremely high defect tolerance could perhaps be manufactured with a vastly lower-quality, and by extension vastly cheaper chip fab.
I’m currently raising some pre-seed funds, aiming to build high-performance, high-efficiency, general-purpose CPUs designed from first principles. I’m also increasingly convinced that, with the right compromises and specialization, a startup-scale fab may be viable and is at least well-worth the experiment.
という求人への長いフリなのだった。Cerebras が似たようなことを言っていましたね。
100x Defect Tolerance: How Cerebras Solved the Yield Problem - Cerebras
字数の大半はチップ細微化の不可能性を長々と説明していて、そこは面白い。
NSF の funding が切られたという話。アカデミアの皆様はヨーロッパなりアジアなりにお越しください。Hahaha.