某所で翻訳の話が進んでいたものの、版権料の折り合いがつかず流れてしまった企画のレジュメ。テッド・チャンがニューヨーカー誌に載せたAIと資本主義に関するエッセイ。興味のある関係各位はご連絡を。
要約：
AIについて議論する時には比喩が用いられがちだが、寓意を捉えそこねた悪い比喩が使われることが多い。そこで筆者はAI＝マッキンゼーのようなコンサル企業、という新たな比喩を提案する。AIとマッキンゼーの類似点を挙げていく中で、筆者はAIが資本主義の加速のために使われてしまう危険性を指摘する。コンサル企業があくまで企業の利益のみに与し、労働者の利益を推進することがないのと同様に、AIもまた企業の利益のみに利用され、富の集中を招く結果になりかねないというのである。
AI研究者が現在向かう先は、資本主義の崩壊までの加速（＝加速主義の助長）であり、それはドナルド・トランプに投票するのと大差がない。AIが人類に危険をもたらすのだとすれば、それは反逆などではなく、AIによって超高速化された企業が株価の追求のために環境と労働者階級を破壊することである。今日ではテクノロジーと資本主義が混同され、資本主義の批判はテクノロジーの進歩を批判するのと同等だと受け取られてしまう。しかし、進歩とは働く人々の生活を向上させることで、株主の銀行口座額を増やすことではない。われわれは「ラッダイト」（反テクノロジーではなく、経済的正義を目指す立場）にならなければならない。テクノロジーの進歩に反対するのではなく、テクノロジーの有害な使用に反対すべきなのである。
テクノロジーが生活水準を向上させる唯一の方法は、テクノロジーの恩恵を適切に分配する経済政策がある場合のみである。過去40年間、アメリカはそのような政策をとってこなかった。ＡＩは人件費を削減し、企業の利益を増加させるだろうが、それはわれわれの生活水準を向上させることとはまったく異なるのだ。
ＡＩの開発者は、富の不平等や資本主義の改善といった難題から目をそらすことなく、批判的な自己点検に務めるべきである。ＡＩが良い世界をもたらすか、悪い世界をもたらすかを決めるのは、そうした開発者たちが自らの役割を冷静に見つめる意欲に他ならない。
コメント：
『あなたの人生の物語』『息吹』といった作品で世界的に著名なＳＦ作家テッド・チャンによるエッセイ。ＳＦ小説でありがちな2パターン――「ＡＩ＝人間の生活を向上させるもの」（善玉説）あるいは「ＡＩ＝人間を超えて反逆し、世界の脅威となる可能性のあるもの」（悪玉説）――という二分を脱し、現実的な目線で、ＡＩがもたらしうる世界のかたちとその危険性について論じている。
テック的な楽天的な視線ではなく、かといって過剰にテクノロジーを恐れ脱テクノロジーを声高に論ずるのでもなく、「有害なテクノロジーの使用」という危険性を、現実のコンサルティング企業の資本主義的なevilさと絡めて示す点で、堅実でありかつ目新しい論説となっている。また、世界のＳＦ作家の中でもトップランナーといってもいい立場のテッド・チャンからこうした論説が出てくるという点でも、今後の未来予測的観点、あるいはＳＦ小説／文学のリアリティという意味で重要な論説であると考えられる。
試訳：
現在想像されているように、このテクノロジーは富を集中させ、労働者の権限を奪うかもしれない。そうならない道はあるのだろうか？
人工知能について論じるとき、わたしたちは比喩に頼る。新しいもの、馴染みのないものを扱うときにいつもそうするように。比喩はその性質上不十分なものであり、それどころか、慎重に選択する必要がある。悪い比喩はわたしたちを誤った方向に導くからだ。たとえば、強力なＡＩをおとぎ話に出てくる精霊で喩えることは実にありふれている。コンピューター科学者のスチュアート・ラッセルは、ミダス王の寓話（触るものをみな黄金に変えてしまう）を引用し、ＡＩが人の望むようにではななく、人の言うとおりに動くことの危険性を説明している。この比喩には複数の問題があるが、そのうちのひとつは、参照した物語から間違った教訓を導き出していることだ。ミダス王の寓話の要点は、強欲は人を破滅させ、富の追求は本当に大切なものすべてを犠牲にするということである。もしこの寓話を、神から望みのものを授かったのなら、その望みのものはとてもとても慎重に持て囃すべきなのだ、というふうに読むのであれば、それは的を外している。
そこで、人工知能の危険性について別の比喩を提案したい。ＡＩをマッキンゼー・アンド・カンパニーのような経営コンサルティング会社として考えてみるのはどうだろうか。マッキンゼーのような会社は様々な理由で雇われるものであり、ＡＩシステムも色々な理由で使われる。しかし、マッキンゼー――『Fortune 100』に選ばれた9割の会社と仕事をするコンサルティング会社――とＡＩの類似点も明らかだ。ソーシャルメディア企業は、ユーザーをフィードに釘付けにするために、機械学習を利用している。同じように、パデュー・ファーマ［#訳注 アメリカの薬品メーカー］は、オピオイドの蔓延期にオキシコンチンの売上を「急増」させる方法を見つけ出すために、マッキンゼーを利用した。ＡＩが人間の労働者に代わる安価な代替品を経営者に提供することを請け合ったように、マッキンゼーやその他同様の企業は、株価や役員報酬を上げる方法として大量解雇の実施を常態化させ、アメリカの中産階級を破壊することに貢献した。
