ドワルケシュ・パテル(原著) , 株式会社クイープ(翻訳)
※1点の税込金額となります。 複数の商品をご購入いただいた場合のお支払金額は、 単品の税込金額の合計額とは異なる場合がございますので、予めご了承ください。
【30秒サマリー】
本書は、OpenAI、Google DeepMind、Anthropic、Metaなど、AI革命を牽引するトップランナーたちとの対話を厳選し、テーマ別に編纂したオーラルヒストリーである。スケーリング則をはじめ、AIがなぜここまで進化し続けるのか、その本質を当事者たちの生の言葉から読み解く。
【こんな人におすすめ】
・AIをビジネスに活用する技術者やプロダクト開発者
・生成AIの進化を支える技術的な原理を知りたい人
・AGI(汎用人工知能)の実現可能性や社会的影響に関心がある人
・テクノロジーの最前線の動向を一次情報に近い形で把握したい人
【この本で学べること】
1. スケーリング則など、現在のAIの進化を支える基本概念
2. 大規模言語モデルがどのように評価され、内部で何が起きているのか
3. AGI実現に向けて投入される投資や資源の課題
4. AIが社会に与える影響や知能爆発の予測
【Q&A】
Q: どんな人におすすめの書籍ですか?
A: AI技術の動向について、最新技術や事例の解説のような「何ができるか」ではなく、この数年間のトレンドで「なぜ現在こうなっているか、今後何が起こったり問題になったりしそうか」を知りたい人におすすめです。
Q: 読み終えると何が変わりますか?
A: AIがなぜ急速に進化しているのか、その背景にある技術と思想を理解することで、ニュースでセキュリティ問題、データ設備や発電施設増設などがなぜ話題になっているのか、開発ペース減速を求める声明があがる背景など、今世界で起こっていることをより俯瞰的に解像度高く理解することができます。
Q: 前提知識は必要ですか?
A: 専門用語も登場しますが、対話形式で初学者でも読み進めやすい構成です。注釈の内容を活用することでより深い理解が得られます。
Q: どのくらいの時間で読めますか?
A: 対話形式でテーマ別に編纂されており、各章20分程度で読むことができます。
【著者情報】
ドワルケシュ・パテル Dwarkesh Patel
ドワルケシュ・ポッドキャストのホストであり、無名の知識人から現代で最も影響力のある人物まで、綿密な取材に基づくインタビューを制作している。2024年のTIME100 AIのひとりに選出されており、ジェフ・ベゾスやマーク・ザッカーバーグなどの人々から賞賛されている。
序文
機械学習の基礎知識
第1章 スケーリングの科学:なぜ、たくさんのデータを入れるとうまくいってしまうのか?
01 データをたくさん入れたら知性が現れた!
02 ケーリングが機能するワケ
03 予測精度と実際の推論能力は違う
04 人間もAIも、計算リソースを投入することで進化した
05 学習から探索へ
06 信頼性のナイン
07 「足かせを外す(アンホプリング)」
08 AIの汎化能力とグラウンディングについて
09 機械学習は「泥臭い進化」である
10 なぜ世界はスケーリングの威力を読み間違えたのか?
11 エピソード記憶とアーキテクチャの未来
12 学習データ不足は、セルフプレイや合成データで乗り越えられるか?
13 AIの非効率性
第2章 大規模言語モデルの評価:「ブラックボックス」をどう評価するか?
01 知能の正体
02 暗記か、真の推論か
03 AIの「いびつな知性」
04 まだ評価できていないAIの能力
05 AlphaZeroの教訓
06 ベンチマークへの過学習とテストデータの汚染
07 AI論文におけるPハッキングと機械学習
08 長期的タスクにおける「信頼性」の壁
09 AIの不連続な能力向上をどう監視するか
第3章 大規模言語モデルの内側:モデルの内部では何が起こっているのか?
01 小脳的構造に秘められたもの
02 シャーロック・ホームズの推論は「高次な連想」なのか?
03 LLMは「局所的な汎化」しかできないのか?
04 重ね合わせの謎
05 概念の解像度を上げる
06 AIの嘘は見抜くことができるか?
07 思考の連鎖
08 アライメントのメカニズムは、まだ誰も知らない
第4章 生成AI技術の取り扱い方:自分より賢いものをどうコントロールするか?
01 AIは人間の価値観を「理解」しても「共有」するとは限らない
02 スーパーアライメントの必要性
03 Base64と異質な知性
04 AIの反乱はなぜ難しいか
05 口にする言葉と価値観は違う
06 アライメントのタイムライン
07 ワルイージ問題
08 長期的タスクがもたらすミスアライメントの脅威
09 ミスアライメントはどう生じるのか?
10 解釈可能性のゴール
11 異質な思考への対処
12 オープンソースの脅威
13 アライメントの「数学的定義」は不可能なのか
14 AIとの共存と道徳的配慮
15 審美眼を磨け
16 アライメントと子育て
第5章 AGI実現への投資と資源:1兆クラスタ構想と現実
01 1兆ドル規模の計算クラスタと「電力」の壁
02 スケーリングのボトルネックは「魔法」では超えられない
03 壁、壁、壁
04 その投資は回収できるか?
05 AGIへの投資は「経済全体」を投じる価値がある
06 マルチサイト構想
07 AIインフラと地政学
08 データセンターの物理的防衛
09 「データの壁」は訪れるのか
10 データ不足は「障害にはならない」という楽観論
第6章 AIの社会的影響:いま、世界で何が起ころうとしているのか?
01 2030年のAI学習の姿
02 スケーリングしつづければ、何でも解決できるのか?
03 ボーナスタイム
04 AIバブルか、それとも「史上最大の投資機会」か
05 AIの反乱シナリオ
06 諜報機関の介入と「湾岸戦争」レベルの圧倒的軍事格差
07 AIが暗黙知を埋める日
08 人類がAIへ主権を明け渡す未来
第7章 知能爆発:知性がより優れた知性を生むとしたら?
01 ブロブ(巨大な知能の塊)
02 労働力の倍増がもたらす「収穫逓減の打破」
03 自己改善のストッパー
04 武力乗っ取りの可能性
05 国際規制の必要性
06 AIにアライメントを任せることの「悪夢」
07 AGI完成後の人類の生きがい
08 ハードウェアの進化が止まっても知能爆発は起きるか
09 価値のロックイン
10 ASI時代の地政学
11 AGIは政府主導か、民間主導か
12 チェック・アンド・バランス
13 悪用と反逆の二重の危機
第8章 AGIはいつ実現するか?
まとめ
有識者たちのプロフィール
付録:エッセイ
"The Bitter Lesson" (「苦い教訓」)/"Excerpt from The Scaling Hypothesis" (「スケーリング仮説」からの抜粋)/"Will Scaling Work?" (「スケーリングは機能するのか?」)/"On the Broad Success of Transformers" (「Transformerの幅広い成功について」)
用語集
引用
参考文献