書名 AIの壁
著者 養老孟司
発行所 PHP新書
発行年月日 2020.10.12
価格（税別） 880円
リベラル派のAI論といった趣。養老さんは野放図なAI化に対しては批判的。
● 以下に転載。
AIについては，とくに情報技術の面でコロナ禍以降，社会的に大きな変化が生じた。（中略）世の中，なにが起こるかわからない。これは知識としてはよく知っているが，八〇歳過ぎまで生きてきても，それが身に染みる機会は多くない。（p4）
極めて安易に「これからはAIだ」となってしまう雰囲気があることを警戒している。とくに中国や韓国で行われたことは，当然日本でもやらなければならないという雰囲気が目立つように思う。自分自身の必然性から出ていないことをする癖がこの国の社会にあることを心配する。（p5）
僕はね，「AIってなんだ？」と問われたら，基本的には「高級な文房具ぐらいに思ってる」と答えます。パソコンだって，情報処理の道具という意味では文房具の一種でしょ？ その延長線上で捉えていますよ。（p17）
道具として見たときに，実際の仕事に使えるか，というと，パソコンという箱にしてもAIというシステムにしても，非常に使いにくいですね。なんといっても，僕らみたいな（中略）人たちが相手にしているのは，自然ですから。都会とか人間の作ったシステムの中では，ものすごく使いやすいんだと思うんですよ。（p18）
人間の意識だけで社会を形作って「ああすればこうなる」というふうに原因と結果がきれいに揃う思考だけで物事を考えていると－僕が前から言っている「脳化社会」がそうなんだけど－そういう世界観の中にいたら，人間はコンピュータにはかなわないですよね。だから仕事がコンピュータに置き換えられるとか，AIに仕事が奪われるとかいう話になる。だけど僕から言わせれば，そういう原因と結果が必ずきれいに揃うという世界観で仕事をしている方が悪いんだよ。（p18）
将棋の世界は「局面」で切れるという意味で，AI向きなんですよね。ところが，自然を扱うとなると勝手が違う。まず，「局面」が切れない。虫もそうですけど，どこまでが虫なのかという線引きの問題がある。（中略）自然を扱おうとすると，とても簡単に計算はできませんよ。調べるという行為自体が相手を乱しますから。量子の世界も，そうです。観測の問題として有名なのが，「不確定性原理」。測定しようとすると，途端に相手に干渉するという意味では，量子も自然なんですね。（p19）
AIそのものが問題なのではない。人間の営みの中で，AIが占めるウエイトが一番問題なんだ。（p21）
人って「できる可能性のあることはやる」というか，「できることは何でもやっちゃう」という，ある意味では悪く癖がある。そこも考えていく必要はあると思いますよ。（p24）
医療分野で「診断を機械にやらせよう」という発想は実はそれほど新しいものでもない。（中略）それ以後，時間が経ったわりには機械による診断って全然進んでいないなと。これ，囲碁や将棋とは違うな，なぜだろうと考えて思い当たるのは，多分，医者の抵抗がものすごいからなんですよね。（中略）「機械に任せちゃ，危ない」と煽るのは，もともと医者の傾向じゃないですかね。「自分の仕事を取られる」っていう危機感。（p30）
前提となる基準が統一されていないような分野は，コンピュータで扱いにくいんですよ。例えば，肝機能の検査は，当時は統一されていなかった。（中略）ただねぇ，僕ら医者はむしろ，統一化や画一化の弊害の方が大きいと感じてきた。（中略）人間をそういう統一した基準で測っていいのか，と。人間の知能を測るIQという基準なんて，典型でしたけどね。（p32）
東大の医学部に入ってくる連中なんかは，偏差値で言ったら，ものすごく高いんですよ。血圧でいうと，完全に「高血圧」です。だからあの連中は，治療しなきゃいけない。（中略）僕，疑問に思うんですよ。どうして身体のことだと，「偏差値」が外れたらいけなくて，頭だったら外れなきゃいけないのかって。「これ，ダブルスタンダードじゃないの？」と。（中略）要は，社会が「頭のことに限っては，外れた方がいい値」とバイアスをかけているということです。それがまさにAI化が進んでくる背景と重なる。（p33）
案外，人のおおもとに立ち返れ，ということかもしれないよ。僕ね，AIが人の暮らしに入ってきて，面白いと思うのは，こういう時代になって初めて，「人が生きるとはどういうことか」と，みんなが考え始めたこと。（p35）
ここまで作ってきた社会は，簡単に壊せなくなっちゃった。これが困るんですよ。しかも，壊せないぐらい堅牢な組織なり，システムなりを作り上げた人が，力を持ってしまっている。例えば，車なんかもそうだよね。（中略）今まで車が殺した人間の数は，戦争より多いと言われている。だけど，今さら止められないのはここまで「作っちゃった」からでしょ？（p36）
そういう「トリアージ」の問題って，医療現場では日常的に起こっていますよね。その都度，状況で判断していくしかない。それを，理屈ですべて詰めようというのは，どこかおかしいと思うね。本来の解決法は，それを理屈で詰めなくても良くなるような状況を発生させること。つまり，「自動運転にしない」と。（中略）そういう問題をぎりぎりと論理で詰めることは，本当はできないんだという結論になってもいいと思うんです。論理の問題じゃない。状況の問題なんだと。（p41）
将棋で言えば，コンピュータと人間の価値観の差異として，時系列を意識するか否かの違いは大きい。人間は時系列を意識しながらインプットをしていく生き物です。それに対して，コンピュータソフトが選択していくのは，（中略）その瞬間に一番評価値の高い手を選んでいくことの繰り返しです。だから，人間から見ると，時系列がつながらずに全部が点。非常にまばらに見えるんですよ。一貫性がないんです。（羽生善治 p45）
今の子どもに準備しなきゃならないのは，答えとしての「出力」ではなく，いかにいろんなプロセスを経験させるかという「入力」の方なんですよね。まず，五感を鍛えろと。（中略）子どものうちはやっぱり，あらゆる感覚を訓練しないことには，生き物として話にならない。（p46）
ライブラリーが単なるデータとして蓄積されているだけでは，何も面白くない。ここまで分類されてくるのに，実はこんな積み重ねがあったとか，情報を深められる話まで入ってくると，豊かな情報になって見える世界に厚みが増してくる。（p47）
今みたいな小学校という「箱」は，もういらないと思っていて。子どもたちは，あの箱に詰められて，学問も詰め込まれて，もはや虐待ですよ。だから，九月になると自殺が出る。とんでもないことでしょ？ そういう事態を招いていることを，先生方が反省しないということがおかしいと思う。そもそも子どもなんて簡単に自殺するもんじゃないよ。（中略）僕の目から見たら，根本的には先生の集団が教育を妨害してるな，という感じですよ。（p49）
子供のときに幸せを感じさせるということが，非常に大切だと思うんだよ。なぜかというと，いったん幸せを感じたことがある人は，またあるんじゃないかって，人生に希望を持てるから。お先が真っ暗でレールを敷かれちゃったら，希望なんて持てない。（p50）
逆に局所，局所で最適な解を決めていった方が，全体でも辻褄が合うということもあるんですよ。（p53）
「頭」だけで特別視されていたような人たちこそ，AIに負けちゃうよって世の中になってきたんだから。（p58）
江戸時代に「生き馬の目を抜く」って言ったでしょ？ あれ，「江戸」，つまり東京の人の形容ですよ。田舎の人から見ると，都会の人は頭が良く見えるんでしょ。頭がいいっていうことは，要するに，人をだますっていうことだよ。（p58）
人が都市を作ったのは，ここ一万年。農業が始まってからですからね。都市化すればどうしても理性中心の世界になっちゃう。むしろAIが，理性中心社会からの脱却のために，いいターニングポイントを作ってくれればいいんですね。例えば，人間が肉体労働をして田舎で一年の半分を暮らしても，AIがちゃんと，知的な活動のかなりの部分を代わってやってくれるという。（p59）
何をもって創造性というか。そこですよ。僕からすれば，新しい発見とは，多分「自分に関する発見」なんですよ。世間の評価なんてどうでもいい。（中略）「知らない」から「知る」へのジャンプ。今の教育の悪いところは，その発見になるようなことを，あらかじめ与えちゃう。だから，勉強するほど創造性が落ちちゃう。（中略）問いと答えをあらかじめ提示されちゃえば，発見の喜びは削がれますから。（p63）
僕らは小さな発見をしょっちゅう繰り返しているじゃないですか。「目からうろこ」というあの感覚が，まさに発見の一つだし，あれこそが創造性だと思う。なのに，今は発見を本人の「能力」とかに被せがち。だから，創造性があるとかないとか言うんです。僕は発見は能力じゃなく，「状況」だと思うんですね。その人と，その状況とがセットになって，「あっ！」に結びつく。（p66）
脳みそって普段，勝手に動いてるんで。（p67）
メディアでよく「国際化」という言葉を聞くんだけど，全部を日本語で書いて，出版物として日本人のお客さんに売って，何が国際化だよって。（中略）そもそも，日本語を使っている時点でガラパゴス化してるんですよ。だから，それでいいんじゃないですかね。（p68）
私が専門としてきた解剖学というのは，「一人一人」を，言ってみればバラしていく学問。「一人一人」から得られた情報を論文にする，つまり「情報化」するわけです。その作業というのが，科学の世界でいうところの「一次産業」なんですよ。現物を見て，そこから起こしていく。（中略）現物が相手だと，均一化･効率化ができないんです。（中略）そこの第一段階のところが，ほとんど経済活動としては認められなくなっているんですね。（p78）
システムというのは猛烈な初期投資が必要であって，それを先にやってしまった方が勝ちなんですね。（p79）
そういう流れで，「結果的にでき上がっちゃった社会」が勝手にシステムを構築していってしまう傾向って，その方向性を変えるとすれば，個人の反抗しかないんです。（中略）国レベルでの「反抗」をやっているのがフランスだと思いますよ。いわゆる「大衆化社会」に対して，国ぐるみで抗っている。フランスって，基本的に農業国ですから，国民の考え方が保守的というか，システム化にはあまり向いていないところがある。（p80）
今，大衆化を一番バカ正直にやっちゃっているのがアメリカという国ですよ。つまり，僕の言葉で言えば，国民がこぞって物事すべてを「意識化」してしまう。これは考えると，無理もないなとも最近思えてきた。なぜかというと，「異文化の人をあれだけひと所に集めたら，議論って通用するの？」って。違いの乗り越えるには，普遍的な理性しかないんですよ。（中略）そして最後は「永遠なるもの」を求めるようになっていくんです。まがいもなく神ですよね。あれ，理性を突き詰めた究極のものですよ。（p81）
コンピュータを駆使して，公平･客観･中立な社会を作ってきた。でも皮肉なことに，その結果はなんと，猛烈な格差社会ができ上がっていたという。（中略）なんでそうなったかと言うと，シンプルに言えば，「身体性」が置いてきぼりを食った，ってことなんです。（p82）
カーツワイルは，ある意味で滑稽だけれども，その「不老不死」を希求するところが人間の本性でもありますからね。別に人間改造という文脈じゃなくても，AIあるいはコンピュータが珍重される理由だと思いますよ。つまり，コンピュータの中に入れたものというのは「不死」ですから。（p91）
汎用AIを議論する前に，「意識って何なの？」と。エネルギーなのか，それとも電気なのか，磁気なのか，引力なのか。未だにわかっていないんですよ。（中略）意識とは何ぞや，という点を問わずに意識の問題を扱う。それは危ないと僕は思う。（中略）科学を推し進める場合に，まず扱うものがわかっているというのが大前提ですよ。じゃないと，錯覚が抜けない。（p97）
学問というのは，社会にとって危険なんです。場合によっては，大砲を撃ち込むべきものでもあるかもしれないと，前提を問う姿勢は大事。それなのに，むしろいいものとして許容してしまったのは，六〇年代の紛争以降の大学ですよ。（p106）
機能主義を突き詰めていくと失敗する（p106）
アングロサクソン流というのは，物事を見るときに，非常に機能的に見るんですね。機能的に見るとこぼれ落ちるものがたくさんあるんです。なぜかというと機能というのは，「枠組み」を決定しない限りわからないから。（中略）本来，機能というのは，その枠組みを前提とするんです。（中略）前提を問うのが学問ですからね。（p107）
意識って，根本的に矛盾を抱えていて，自分のことに言及するとおかしくなるんです。それは論理的に解けないでしょ。自己言及の矛盾というやつです。（p108）
ベーシックインカムについて言うなら，日本という国が何をどれだけ必要としていて，何を買わなくちゃいけなくて，なんで稼いでいるのかという産業と需要の全体の帳尻を見なければいけないんだけど，その点を誰が見ているのかなという疑問がありますね。（中略）日本国の貸借対照表みないなものがね。日本全体の資産をあぶり出すというか。そうじゃないと，議論がどうも宙に浮く。いわゆる文化系の議論でね。（p116）
理性って，簡単に言えばコンピュータ的思考。それでは多様性のあるものは把握できないんですよ。足掛かりに使うのが「統計なんだよね。統計って，物理学から量子力学に入っていったとき，そこに最初に登場するんです。（中略）世の中の事象って頭の中で統計として扱えば，コントロールできるんです。医学が完全にそうなりましたからね。（中略）どういう意味かと言えば，医者は患者を見なくなった。（p126）
僕はイタリアみたいな社会に注目していて。紀元前からずっと都市をやってきて，都市で生きるとはどういうことか，相当わかっているはずなんですよ。そうするとローマは，東京みたいにはならないでしょ？ 東京はちょっとでか過ぎるし，（中略）適正サイズというのがあると思うんですよ。それと同じで，AIも適正サイズがあると思いますよ。（p130）
哲学者といっても普通の人です。ただ，考え方に癖はあります。例えば，究極的な一つの原理や，独自の発想が頭の中でぽんとでき上がると，「それですべての物事を説明したい」となる。こうした抑えがたい衝動が哲学者の特徴でしょうか。（岡本裕一朗 p135）
自分たちが教えてきたのは，そもそも誰かの「偏見」から作られたものなんだ，という認識がないと。（p140）
（人工知能は）方針をこうだと決めたら，揺らがずそこを走る。でもまあ，人間の方がコンピュータ的価値観に寄ってきたというか。今の人って，そういう世界観が好きなんですよ。オリンピックだって，「今年みたいに暑いんだったら，夏の開催はやめて，三ヵ月ずらしましょう」なんて，できないでしょう。いったん歯車に乗せちゃったら，そのまま動いちゃう。（p149）
親が暇なしで子どもをかまってくれないから，かえって伸び伸びしていたという。子どもがあんなに自由だった時代って，日本になかったんじゃないですか。戦後しばらくの間というのは，日本始まって以来の自由だったんじゃないかな。（p156）
人生を，経済的，合理的，効率的に生きるっていうなら，「生まれたら，即，死んだらいいだろう」っていうことになりかねない。（p158）
「芸術とは心地よさだ」と定義したときに，いろんな物差しで測って安定しているということが，一つの評価軸としてあると思うんですね。多次元空間の中で「安定平衡点」っていうんです。これ，要するに普通の平面で考えたら，すごく窪んでるということですよね。そこに落ちるとしばらくじっとしていられて楽だよ，という。（中略）深ければ深いほどそこに溜まって動かないわけですから，生き物って，本能的にはそういう状況って気持ちがいいでしょう？（p161）
日本人は文化的にも「自ずから」を尊ぶ。『古事記』『日本書紀』で一番使われているのは，「なる」という言葉なんだから。「自ずから，なる」。ひとりでにそうなる。それに対して，欧米人は，あらゆることは「俺がやる」というところがある。何にでも「私」が出てきて。（p169）
「自ずから，なる」というのは，要するに客観主義に徹するというわけですね。（中略）僕は，発生をテーマにしていたんですけど，発生って，放っておきゃ親が交配して，受精卵がありゃ子ができちゃう。それを，なんで俺が理屈にして論文にせにゃならんのかって自問してしまって。（中略）「なるべくしてなる」って考え出すと，仕事の邪魔になるんですよ。（p170）
僕は，現実と思われている社会も，もともとバーチャルに近いと思っています。（中略）逆に言うと，インターネットで（人々の欲求が丸裸になったことで）社会がリアル（本当の姿）に近づいたんですよ。自己愛とか商人欲求とか競争心とか，そういうものは教育とか倫理とか，いろんなもので縛ってきたわけで，ネットでそのタガが外れたということでしょう。（p182）
最近「不安」を口にする人が多くなっている気がします。行政とか企業とかが何かをしたりしなかったりするときに，「それでは不安です」と言う。それをSNSに書いたりする。不安のない状態でいる権利があると考えている人が多い。自分に不安があるのは，相手が対策を間違っているからだって。ところが，ごく素直に考えると，不安を感じない人というのは恐ろしいですよ。（中略）だって，何するかわかったもんじゃないから。（p183）
一％未満の人だけが発信していたときは，少数の人がホームページを持っていて，その情報をみんなが分散型で共有し信頼するというシステムが機能していました。ところが，八〇％の人が発信者側に回ったときには，嘘だらけになってしまいました。（新井紀子 p184）
落としどころを探るというのが，女性の共通の傾向かもしれませんね。結婚して子どもを育てていると，原理主義では生活が成り立ちませんから。（新井紀子 p186）
対談内容を本にしていただくのに，そういうことを言うとおかしいかもしれませんが，文字にして表現できることは一割もないと思うんです。読む側が受け取るのは，表現されたことのうちの一割程度かもしれません。すると，伝わるのは一％未満ということになってしまいます。（新井紀子 p188）
AIの一番の問題はすべてデータに基づいて予想したり判断したりしていることです。しかもそれを積み重ねていきます。データというのはすべて過去のことです。今いる人間についてのことを過去のデータで判断するってことは，昔も今も人間は変わらない，時間の経過があっても人間は変わらないという前提がないと無理なんです。でも，そんなことありませんよね。（新井紀子 p193）
人間ってちょっと変わった生き物で，バーチャルで生きていけるんですよ。いわゆる現実から離陸しちゃっても。（中略）制度とか肩書とかみんなバーチャルです。頭の中にしかありませんから。（p197）
今の人って，物事は予測がつくという考え方をしますね。できるわけがないのに，予測できない方が悪いと思い違いしています。（中略）予測できない状況というのが非常に不安なんですね。（中略）管理できない状況を危機っていうんじゃないですか？（p199）
人生って想定外のことが起きるんですよ。その常識がなくなってしまって，何でも想定しなきゃいけない，というのが圧力になってしまっていますね。子どもの育て方がそうです。わからないことがあっちゃいけない。（p200）
「どうしたらいいか書いていない」と批判するのは，教えてもらわなかったら自分は何もできませんと告白しているようなものなのに，そのことに気づいていないんです。（新井紀子 p202）
きちんと会社勤めしている人というのは，多分，そういう人ですね。答えが欲しい。そういう人と話していても，あまり面白くありませんね。（p202）
人間っていろんなことができるんですよ。それは，身体だけ見ててもよくわかるんです。（中略）最初からできないって決めていたら，何もできませんね。でも，やろうと思ったら，できるようになるかもしれない。誰かに教わるわけじゃないですよ。自分で考える。だから，何でもかんでも教えちゃダメなんです。（p202）
生き物は適応能力が非常に高いんですよ。特に，生死に関わるようなことになると，俄然，能力が出てきます。それから，責任を持たせると能力を発揮します。（p203）
だいたい，食べ物に点数を付けて，それを参考にしようというのが，生き物として終わっていると思います。自分の臭覚で探さなきゃダメだと思うんですよ。評価の星の数が多いところで食べて美味しい気持ちになってしまうこと自体，生き物としておかしい。それが，五感を削いでいることに気がつかない。（新井紀子 p205）
