Booklog - 働きたくないイタチと言葉がわかるロボット

ことのはじまり ~ 1 章。「何か言うだけで何でもできるロボット」を考えるには「言葉がわかる」仕組みを理解する必要がある。 「言葉がわかる」というために少なくともできないといけないこと、少なくとも何と違うのか。 イタチが欲しいのは AGI 的なロボットでそのためには何が必要化みたいな流れ。 1 章では音声と音素の話。「ある言語が聞き取れる」ことは「音声のカテゴリ(音素)化の仕方」がわかり「音声と音素を結びつける」こと。 機械学習が使われる領域。音声と音素をつなげるのは関数で、その関数を訓練データから導く。 人間の赤ちゃんと機械による音声理解の違いは正解がないこと。音声の分析・音素の学習・単語の学習が同時進行する。 今では LLM が音声もかなり理解できるようになったので、深層学習の進化ということかな。でも初めの頃は英語以外の学習データが乏しいでモデルは性能悪かったし、この章で言われる通りなのかな。

2026-07-04, read count: 1, page: 1 ~ 32, pages read: 32

2 章。自然な会話ができるには必ずしも言葉を理解している必要はない。 ELIZA のようなルールベースやウム返し、りんなのような機械学習による返答。 自然な会話はあいまいなまま進む。真偽が問われる会話とは根本的に異なる。 出版が結構前なのでりんなみたいな懐かしいキーワードが出てくるな。 LLM 時代になって AI のできることが随分様変わりしてるけど、 AI が確率的な推論をしてることは同じなので、 AI を理解する助けになりそう。

2026-07-05, read count: 1, page: 33 ~ 52, pages read: 20

3 章。質問に正しく答えることは言葉の世界の中での正しさであって、実際に体験していないことでもその情報の信憑性から正しいと判断される。 質問応答。 IBM Watson 。懐かしい名前だなと思って調べたらまだ Watson 自体は続いてて watsonx とかいうのになってるのか。 ヒトの理解も機械と同じってのは面白い。確かに体験したことのないものでも知っていてわかってるつもりになってる。

2026-07-06, read count: 1, page: 53 ~ 69, pages read: 17

4 章。画像認識、特に物体カテゴリー認識は深層学習がブレークスルーだった。ニューラルネットワーク。 言葉と言葉の外の世界の結びつきは、必ず画像・動画を伴うわけでない。抽象や概念を指し示すそれらには必ず余計な情報が混ざる。 このように表せない言葉は無数にある。役割、出来事、文等。ヒトの様に五感が伴っていてもそれだけでは言葉を理解したというには不十分。 画像のアノテーションがだめで出力もだめになるのあるあるやな。 ここまでの章では機械は限られた範囲での正解を出すことには成功してもイタチが欲しがっているような汎用的な知性まで到達してないって感じ。

2026-07-07, read count: 1, page: 70 ~ 106, pages read: 37

5 ~ 6 章。文と文の論理的な関係。推論にはパターンがあるが、パターンは無数にあるため記号論理が開く・推理論理が開くと呼ばれる学問では計算によってパターンを定義する。 推論は意味理解とも深い関連がある。異なる文でも意味が同じであれば、片方の推論からもう片方が導ける。 論理的に考えるうえで邪魔なもの。感情や都合・間違い・言葉の定義のぶれ・隠れた前提・曖昧性。本書のイタチに与えられた課題は、機械による論理的な判断、 含意関係認識という課題。 文を推論パターンに当てはめるには、様々な形の文を理解するための厖大な語彙、文の構造を理解するための構文解析、常識などの知識の補完が必要になる。 それとは別の方法として文と文の類似度を測る近似的な手法がある。これは推論関係が成り立っているかどうかとは本質的な関係にないが、機械にとっては重要な手がかりとなる。文の類似だけでなく意味の類似も見る必要がある。 ぐっと現代的になってきた。次ベクトルやな。

2026-07-08, read count: 1, page: 107 ~ 168, pages read: 62

7 章。単語の意味について教える方法。単語の意味・同義語・類義語等の辞書情報を帰化に読める形で渡す。 含意関係認識で用いる問題点は、同義語が多いほどどの意味で使われるか判断できない点、分野によっては必要な単語があらゆる十分な密度で得られない点。 代わりに、似た文脈なら語義が似たものになる分布仮説に基づき、意味の近さをベクトルで表現する。次元が高すぎるベクトルを平易に扱うための Google の word2vec 。 ただし、機械が理解する文脈は人間が理解する文脈と違い言葉の世界に閉じている、類義語と反義語が似た文脈に現れるため判別が難しい、といった問題もある。 クラウドソーシングを利用して句も含めた大量のベクトルを用意すれば全て解決できるのか？で本章は終わり。次が最終章。 残頁数や本書の刊行時期考えても Transformer までは届かんかな。でもかなり現代的な話になってきたので知識がつながる感じがする。

2026-07-09, read count: 1, page: 169 ~ 204, pages read: 36

8 章。文の意味と意図の違い。話者の意図と意味が異なる理由。 結局大量のベクトルを用意しても、文の意味と意図の違いを理解するには不十分で機械が誤解する要素がある。 言葉がはらむ本質的な曖昧性。多義語の語義曖昧性。名詞が指すものの曖昧性。分の構造的な曖昧性。会話的含み。言外の意味。表現の曖昧性。 多義語の語義曖昧性を解消するために膨大なアノテーション済みコーパスが必要なのが難点。 会話的含みの原理。協調の原理。状況・場面・文脈その他さまざまな要素を考慮する必要があり機械に理解させるのは至難の業。 指示が曖昧だと期待の結果が得られないのは今の LLM も同じなので、機械を使おうとした時に結局ヒトの側から曖昧さをなくすしかないのがこれまでの流れの中でも一貫したテーマなんやろう。

2026-07-10, read count: 1, page: 205 ~ 240, pages read: 36

9 章。何でも理解できるロボットの難しさ。 その難しさは、学習データの信頼性・網羅性の保証・ヒトの言葉に対する反応が起こるまでのプロセス・情報の言語化の難しさに由来する。 そのため解決したい問題の領域を狭めた機械で実現したりする。 機械で実現できていないヒトの言語理解は、言語習得に関する本能的な能力、言語に対するメタ認識、対話者の知識や感情を推測する能力。 機械による言語理解は課題の解決と発見が繰り返されている。 イタチたちの機械もその繰り返しとなっていて、要は言葉通り「イタチごっこ」というわけか。 今の時代は LLM で随分と進歩したんじゃないかとは思うが、それでも Human in the Loop のようなヒトが関わる前提にあるし、本質的に言語の曖昧さをヒト側が取り除くよう歩み寄る必要があるんやろな。 註から別の註の参考文献を「前掲の」で参照しててそこは読みにくかった。 本書はコレで終わり。少し話が古いが基礎的な内容だし言語学的な知見もありわかりやすい話だったので勉強になったと思う。

2026-07-11, read count: 1, page: 241 ~ 272, pages read: 32