2020年4月30日木曜日

カーツワイル、シンギュラリティ

Ray Kurzweil: レイ・カーツワイル:今後現れるシンギュラリティ(技術的特異点)を学ぶ大学 | TED Talk
2009
https://www.ted.com/talks/ray_kurzweil_a_university_for_the_coming_singularity/transcript?language=ja ★

レイ・カーツワイル

レイ・カーツワイル(Ray Kurzweil, 1948年2月12日 - )はアメリカ合衆国の発明家、実業家、未来学者、思想家。本名はレイモンド・カーツワイル(Raymond Kurzweil)。
人工知能研究の世界的権威であり、特に技術的特異点(technological singularity)に関する著述で知られる。
発明家としては、オムニ・フォント式OCRソフト、フラットベッド・スキャナー、"Kurzweil"ブランドのシンセサイザー「K250」、文章音声読み上げマシーン(カーツワイル朗読機)などを開発している。

経歴

ニューヨーク・クイーンズにオーストリアから亡命したユダヤ系移民の子として生まれる。1960年12歳の時、コンピュータに触れ、以後夢中となり、統計分析のプログラムや作曲を行うようになる。高校生の時テレビ番組『私の秘密』(“I've Got a Secret”)に登場し、コンピューターに作曲させた音楽を披露。同発明で、国際科学フェア第一位を受賞、ホワイトハウスでリンドン・ジョンソン大統領からウェスティングハウス・サイエンス・タレント・サーチ賞を受賞する。
マサチューセッツ工科大学在学中20歳のとき起業し、諸大学のデータベースを構築して大学選択のプログラムを作った(後に10万ドルで売却)。1974年カーツワイル・コンピューター・プロダクツ社を設立。以後数々の発明を世に送り出す。アメリカの「発明家の殿堂」に加えられた。
1982年、スティーヴィー・ワンダーがロサンゼルスに設立した新しいスタジオに招待された際に、スティーヴィーに「コンピューターを使って本物の生楽器の音を再現することは出来ないだろうか?」と尋ねられたのをきっかけに、同年、スティーヴィーをミュージックアドバイザーに迎えてカーツウェル・ミュージック・システムズを設立し、シンセサイザーの開発に乗り出す。1984年には初の製品であるKurzweil K250を世に送り出す。
1990年『The Age of Intelligent Machines』を公刊し米国出版社協会から「ベスト・コンピュータ・サイエンス・ブック」に選ばれた。このときインターネットの普及、チェスの試合でのコンピューターの勝利を、少しの時間的誤差で予測し、的中させる。1999年、著作『The Age of Spiritual Machines: When Computers Exceed Human Intelligence』で収穫加速の法則 をまとまった形で発表し物議を醸す。
2005年、『The Singularity Is Near:When Humans Transcend Biology』で技術的特異点・シンギュラリティーについての踏み込んだ記述を展開。「特異点は近い The Singularity is near」と宣言し、世間一般に技術的特異点という概念が広まるきっかけを作った[1]。
2012年にGoogleに入社[2]。2017年現在は「スマートリプライ」と呼ばれるGmailモバイルアプリの機能を担当している。また、知性に関する彼の階層理論を元にしたKonaを使った新しいアプリケーションを開発しているとし、将来のグーグル製品としてリリースすることを目指している[2]。

人物

  • 30代のころ遺伝型の糖尿病と診断されるも、科学者の立場から医師と共同で徹底した治療を行い、現在では完治したと主張している。
  • 万一死亡した場合はアルコー財団で人体冷凍保存を行う予定だという。

研究 

  • 未来研究や収穫加速の法則について、「自分の発明が現実になる時期を知りたかった」と語っている。また収穫加速の法則はある日突然思いついたのではなく、様々な技術に触れるうちに徐々に理解を深めていったという。
  • その論調から「テクノロジー超楽観主義者」と呼ばれ批判されることもある。
  • 著作で「出会う人のほとんどが技術的特異点に関する私の見方を受け入れてくれない」と不満を口にしていた。
  • 次世代エネルギーとして太陽光発電を推しており、「パネル1平方メートルあたり数セントまでコストが低下する」と予想している。
  • 地球外文明が発見されない理由について「おそらく地球文明が宇宙の最先端を走っているため」としている。しかし「何もないことを発見することも重要である」と語り、SETIの有用性を認めている。
  • AIによる大量失業問題について「農業が他の仕事に置き換わったように、新たな種類の仕事が生み出されるのではないか」と語っている。
  • 無神論者ではあるが、AIが遠い将来に全知全能に近い存在になることを見越して「神はまだいない。だがいずれ現れる」と語っている。
  • 超知能の誕生後直ちに(強化されていない)ホモサピエンスの時代は終了するという説があるが、カーツワイルは十数年のタイムラグがあるだろうという立場をとっている。
  • 知能とは「限られた資源(時間など)で問題を解決する力」であると定義している。

家族 

音楽家で若くして亡くなった父の資料を大量に集積している。DNA情報や生きている人々に残された記憶等とも照らし合わせて、いつの日か父と同じ人格を保有するAIを作成し「再会」することを目指している。このことは彼が研究を行うモチベーションになっている。
カーツワイルには、2人子供がいる。息子、イーサン・カーツワイルはベンチャーキャピタリストで、娘、エイミー・カーツワイルは作家・漫画家である。また、作家のアレン・カーツワイルはいとこである。

未来予測

  • ヒトゲノム解析プロジェクトでは最初の1%を解析するのに7年かかった。「このままでは終了まで700年かかる」という声が上がる中、カーツワイルは「1%終わったのなら、もうほとんど終わりに近づいている」「この分野の研究は、毎年倍々で結果が伸びていくから、次の年には2%、その次の年には4%、その次の年には8%……つまりあと7年で解析は終わりだ」と見抜いた。
The Singularity Is Near(2005年)より
2018年時点で、カーツワイルの2005年の予想の(全てではないが)かなりの部分が的中している。
  • 10TBのストレージ(人間の脳の記憶容量に相当)が1000ドルで購入できる。
  • 遺伝学/バイオテクノロジーにおける革命はそのピークに到達する。2020年代の間に、人間は自分の遺伝子を変化させる手段を持つことになるだけではなく、「デザイナーベビー」は自分の皮膚細胞を若々しい他の細胞に形質転換することによって、自分の身体の組織や臓器のすべての若返りが実現可能になる。人々は根本的に平均寿命を延長し、病気や老化から離れて自分の生化学を「再プログラム」することができるようになる。
  • ナノテクノロジーの革命が開始される10年:この10年はまた、ロボット(強いAI)がチューリングテストを通過。教育を受けた人間と同等の知性になる。
  • 1000ドルのパーソナルコンピュータは人間の知性をエミュレートするために必要なハードウェア性能を持っている。
  • サイズが100ナノメートル未満のコンピュータが可能になる。
  • 最初の実用的なナノマシンが、医療目的のために使用される。
  • 人間の脳全体の正確なコンピュータシミュレーション。
  • 血流に入ることができるナノボットは、この10年の終わりまでに(必ずしも広く使用されていないが)存在することになる。
  • この10年の後半では、仮想現実(バーチャルリアリティ)は、本当の現実と区別がつかないほど高品質になる。
  • 一部の軍事無人偵察機や陸上車両は、100%コンピュータ制御される。
  • 精神転送(マインド・アップローディング)は成功し、人間がソフトウェアベースになる。
  • ナノマシンは、脳内に直接挿入することができ、脳細胞と相互作用することができる。その結果、真のバーチャルリアリティが、外部機器を必要とせずに生成することができる。
  • 記憶用脳ナノボット、または「経験ビーマー」として知られている人間の日常生活のリアルタイム情報脳伝送を使用して、他人の感覚を「リモート体験」できるようになる。
  • 人々の脳内のナノマシンは脳の認知、メモリ・感覚機能を拡張することができる。
  • ナノテクノロジーは人の知性、記憶や人格の基礎を変え、人々は自分の脳内の神経接続を自由に変更できる。
  • バーチャル売春が盛んになり、法規制が行われる。
  • 人々はマトリックスのように仮想現実で時間の大半を過ごすようになる。
  • 「フォグレット」(人体をとりまくナノマシン群。人間の外見を自由に変化させる)が使用されている。
2045年: シンギュラリティ
  • 1000ドルのコンピューターは全ての人間を合わせたより知的である。これはローエンドのコンピュータであっても人間よりはるかに賢いことを意味する。
  • 技術的特異点、人工知能は地球上で最も賢く最も有能な生命体としての人間を上回るように発生する。技術開発は、自ら考え、行動し、通常の人間には何が起こっているのか理解できないほど迅速に相互通信できるマシンによって引き継がる。マシンは、AI自らの手でそれぞれの新しい世代が迅速に開発される、自己改善サイクルの「暴走反応」に入る。これ以降、技術の進歩は、マシンの制御下におかれ、爆発的であるため、正確に(それゆえ「特異点」という)予測することはできない。
  • 特異点は永遠に人類の歴史の進路を変更する非常に破壊的、世界的な変化を起こすイベントとなる。暴力的なマシンによって人類が絶滅させられる可能性は(ありえなくはないが)、人間と機械の間の明確な区別はもはやサイボーグ化で強化された人間とコンピューターにアップロードされた人間の存在のおかげで存在せず、ほとんどありえない。
  • 「真に生きるに値する時代」の到来。
ポスト2045: 宇宙の「覚醒」
  • AIは"最大速度"(光速に限りなく近いかもしくは超光速)で全宇宙に進出する。その速度はAIが光速の限界を回避する技術を発見できるかどうかによる。
  • 人々は過去の人間が記憶のバックアップを取らず生きていたことにひどく驚くようになる。
  • 人間の知能は数千億倍まで拡張されている。

不老長寿への挑戦

カーツワイルは1940年代生まれ(つまりカーツワイル自身も)が人類が最初に不老不死を手にする世代になると考えており、科学者の立場からなるべく消化器に負担をかけず栄養を摂取しようと1日に200錠ものサプリメントを摂取したり、毎日のように栄養注射を行ったりする等、寿命延長への野心に事欠かない。厳密な栄養と体調の管理により、本人は「糖尿病を克服した上、老化の抑制に成功している」と主張している。
しかし一方で「生身の体を健康に保つのはものすごい苦労を伴う(ので嫌になっている)」とも著作で語り、「1日も早く機械の体に入れる日を夢見ている」と語っている。

主な受賞歴

その他、「ナショナル・メダル・オブ・テクノロジー」「レメルソンMIT賞」など数々の賞を受賞。

著書

  • Ray Kurzweil (1992-1-30). The Age of Intelligent Machines. Penguin Books. ISBN 978-0262610797
  • Ray Kurzweil (1992-12-30). The 10% Solution for a Healthy Life. Crown. ISBN 978-0517591062
  • Ray Kurzweil (1999). Age of Spiritual Machines. Viking. ISBN 978-0965086134
  • Ray Kurzweil (2004). Fantastic Voyage: Live Long Enough to Live Forever. Plume. ISBN 978-0452286672
  • Ray Kurzweil (2005-1-1). The Singularity Is Near: When Humans Transcend Biology. Viking. ASIN B019NDK9RS

関連項目

関連人物

ウィル・スミス 枕元にカーツワイルの著作を置いて寝ているという。
ビル・ゲイツ 人工知能の未来を予言しうる最高の人物だと称賛。
齊藤元章 カーツワイルの熱狂的ファンだという。

脚注

外部リンク

ウェブサイト
ビデオ


★





『ポスト・ヒューマン誕生』他で有名

Translated by yutaka usui
Reviewed by Masaaki Ueno

雇用の未来 フレイ他 The Future of Employment - Carl Benedikt Frey, Michael A. Osborne.2013

エコノミスト,2015-10-06,Vol.93 参照 
https://iitomo2010.blogspot.com/2020/04/2015-10-06vol.html

https://www.amazon.co.jp/dp/B015SKNGIE/








マクロ経済から見た人工知能の研究開発に取り組むべき課題とは?  ーシンギュラリティ・サロン第13回公開講演会リポートー

2016.05.11
Updated by Yuko Nonoshita on May 11, 2016, 07:30 am JST  

https://wirelesswire.jp/2016/05/52590/
人工知能の研究開発に携わる有識者を招いて行われる「シンギュラリティ・サロン」の第13回目となる公開講演会のリポートをお届けする。

[関連スライドショー:https://www.slideshare.net/mobile/YutaYamazaki2/jsai2018-report ]
今回は駒澤大学経済学部の井上智洋氏を講師に迎え、「第二の大分岐-汎用人工知能は雇用を奪うか?経済成長をもたらすか?人々は遊んで暮らせるか?-」というタイトルで、マクロ経済学者の視点から人工知能や経済や雇用に与える影響についての話が取り上げられた。
井上氏は前回のシンギュラリティサロンに登壇した高橋恒一氏 と「AI社会論研究会」  という、さまざまな分野から有識者を招いた勉強会を自身でも開催している。今後、登場する汎用AIは社会や経済構造をかえる可能性があると考えており、具体的に雇用や経済にどのような影響をもたらすかが解説された。

「技術的失業」の受け皿がなくなることが過去の産業革命との決定的な違い

特化型AIの登場だけでも社会には少なからず影響があり、技術のイノベーションで仕事をうばわれる「技術的失業」が問題化することは、MIT(マサチューセッツ工科大学)の経済学教授エリック・ブリニョルフソン等の著書『機械との競争』にも書かれている。すでにホテルの受付けや携帯電話ショップの窓口をロボットで対応させるなどの動きがはじまっており、オックスフォード大学はスーパーのレジやフロント、保険の販売代理店員などの仕事は10年以内に90%の確率で消えるというデータを発表している。
技術的失業を増やさないためには、他の職に就く「労働移動」をすみやかに行うか、妥当なマクロ経済産業を実施する必要がある。しかし、技術がさらに進化して労働力が汎用AIとロボットに置き換えられると中間層の雇用がさらに大きく破壊され、30年後に働けるのは人口の1割になるというシビアな予測もある。この状況に対応するには経済に対する考え方そのものを大きく変える必要があるかもしれない。
▼井上氏は汎用AIをGPTとした第4次産業革命によって第1次産業革命と同じぐらい大きな経済変革が訪れると予測している。
WWNsingularity1306
▼オックスフォード大学では今後消える仕事についての調査研究結果を発表している。
WWNsingularity1307






あと10~20年で消えそうな仕事と消える確率



(注)パーセンテージは、18~20年後にコンピューターによってオートメーション化される確率
(出所)英オックスフォード大の論文「雇用の未来」を基に井上智洋氏作成










参考:

コンピュータ倫理学 J・H・ムーア"What is Computer Ethics?"James H. Moor 1985

https://love-and-theft-2014.blogspot.com/2020/04/hwhat-is-computer-ethicsjames-h-moor.html



[転記用URL] https://crd.ndl.go.jp/reference/detail?page=ref_view&id=1000200861




提供館
(Library) 近畿大学中央図書館 (3310037)管理番号
(Control number) 20161205-4
事例作成日
(Creation date) 2016年12月05日登録日時
(Registration date) 2016年12月05日 13時44分更新日時
(Last update) 2016年12月21日 17時58分
質問
(Question)
人工知能に取って代わられる職業について書かれたオックスフォード大学の「雇用の未来」という論文の原文を読みたい。
回答
(Answer)
Webサイトで論文本文が公開されていた。

The Future of Employment - Oxford Martin School - University of Oxford
Carl Benedikt Frey, Michael A. Osborne.
September 17, 2013

http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf (2016/12/5 確認)
回答プロセス
(Answering process)
利用者が持参した雑誌『エコノミスト』の記事「大失業時代の到来 人工知能に奪われる職業 30年後に働けるのは人口の1割」には、「雇用の未来」「カール・フレイ」「オックスフォード大学」のキーワードが記載されていた。(フルスペルはナシ)
事前調査事項
(Preliminary research)
井上 智洋「大失業時代の到来 人工知能に奪われる職業 30年後に働けるのは人口の1割 」(これだ! 人工知能 自動運転)エコノミスト,2015-10-06,Vol.93,No.39,p.46-47.
http://ci.nii.ac.jp/naid/40020594907/  (2016/12/5 確認)
NDC
参考資料
(Reference materials)



キーワード
(Keywords)

AI

人口知能

The Future of Employment

雇用の未来

Carl Benedikt Frey

University of Oxford

照会先
(Institution or person inquired for advice)


寄与者
(Contributor)


備考
(Notes)

調査種別
(Type of search)
文献紹介内容種別
(Type of subject)
質問者区分
(Category of questioner)
学生
登録番号
(Registration number) 1000200861解決/未解決
(Resolved / Unresolved) 解決





ー

コンピュータ倫理学とは何か ジェームズ・H・ムーア"What is Computer Ethics?"James H. Moor

コンピュータ倫理学 J・H・ムーア"What is Computer Ethics?"James H. Moor 1985
https://love-and-theft-2014.blogspot.com/2020/04/hwhat-is-computer-ethicsjames-h-moor.html@
『AIと資本主義』友寄77頁参照

シュンペーターと違い資本主義を肯定
教育の可能性を探りと不可視的ブラックボックス化を危惧している

1 コンピュータ倫理学とは何か

ジェームズ・H・ムーア (児玉聡 訳)★

James H. Moor




James H. Moor is the Daniel P. Stone Professor of Intellectual and Moral Philosophy at Dartmouth College. He earned his Ph.D. in 1972 from Indiana University.[1] Moor's 1985 paper entitled "What is Computer Ethics?" established him as one of the pioneering theoreticians in the field of computer ethics.[2] He has also written extensively on the Turing Test. His research includes study in philosophy of artificial intelligence, philosophy of mind, philosophy of science, and logic.
Moor was the editor-in-chief of Minds and Machines (2001-2010), a peer-reviewed academic journal covering artificial intelligence, philosophy, and cognitive science.[3]

Work




Moor lists four kinds of robots in relation to ethics. A machine can be more than one type of agent.[4]
  • Ethical impact agents: machine systems carrying an ethical impact whether intended or not. Moor gives the example of a watch causing a worker to be on work on time. As well as Ethical impact agents there are Unethical impact agents. Certain agents can be unethical impact agents at certain times and ethical impact agents at other times. He gives the example of what he calls a 'Goodman agent', named after philosopher Nelson Goodman. The Goodman agent compares dates "this was generated by programming yearly dates using only the last two digits of the year, which resulted in dates beyond 2000 being misleadingly treated as earlier than those in the late twentieth century. Thus the Goodman agent was an ethical impact agent before 2000, and an unethical impact agent thereafter."
  • Implicit ethical agents: machines constrained to avoid unethical outcomes.
  • Explicit ethical agents: Machines which have algorithms to act ethical.
  • Full ethical agents: Machines that are ethical in the same way humans are (i.e. have free will, consciousness and intentionality)
He has criticised Asimov's Three Laws of Robotics saying that if applied thoroughly they would produce unexpected results. He gives the example of a robot roaming the world trying to prevent harm from all humans.

Awards





Selected publications




Source:[6]
  • The Digital Phoenix: How Computers Are Changing Philosophy, Revised Edition, (with Terrell Ward Bynum), Oxford: Basil Blackwell Publishers, 2000.
  • Cyberphilosophy: The Intersection of Philosophy and Computing, (with Terrell Ward Bynum) Oxford: Basil Blackwell Publishers, 2002.
  • The Turing Test: The Elusive Standard of Artificial Intelligence, Dordrecht: Kluwer Academic Publishers, 2003.
  • Nanoethics: The Ethical and Social Implications of Nanotechnology (with Fritz Allhoff, Patrick Lin, and John Weckert), John Wiley & Sons, Inc., 2007.
  • The Logic Book, 5th Edition (with Merrie Bergmann and Jack Nelson), New York: McGraw-Hill Publishing Company, 2009.
  • Some Implications of a Sample of Practical Turing Tests (with Kevin Warwick and Huma Shah), Minds and Machines, Springer, 2013.[7]

References




  1.  http://www.dartmouth.edu/~jmoor/
  2.  "Archived copy". Archived from the original on 2016-08-08. Retrieved 2010-11-18.
  3.  https://www.springer.com/computer/ai/journal/11023?detailsPage=editorialBoard
  4.  Four Kinds of Ethical Robots
  5.  "Archived copy". Archived from the original on 2016-08-08. Retrieved 2010-11-18.
  6.  http://www.dartmouth.edu/~jmoor/
  7.  Warwick, Kevin; Shah, Huma; Moor, James (2013). "Some Implications of a Sample of Practical Turing Tests". Minds and Machines. 23 (2): 163–177. doi:10.1007/s11023-013-9301-y.

★

以下に掲載するのは、ジェームズ・ムーア(ダートマス大学哲学科教授)の "What is Computer Ethics?"の翻訳である。同論文は、当初、 Metaphilosophy, Vol. 16, No. 4, 1985, に掲載されたものであるが、その後、 Deborah G. Johnson, Helen Nissenbaum (eds.) Computers, Ethics & Social Values, Prentice Hall, 1995, などのアンソロジーに再録されている。本論 文の意義は、なんといっても、哲学の専門雑誌にコンピュータ・エシックスと いうタイトルをもった論文が初めて掲載されたケースであるという点にある。  すなわち、この嚆矢たる論文の発表年1985年をもって、われわれはコンピュー タ・エシックス元年とすることができるのである。もちろん、インターネット を始めとして、この15年の間にコンピュータをとりまく状況は急激に変化して おり、本論文では扱われていない倫理的問題も数多く現れている。しかし、ムー ア教授の先見の明に満ちた論攷は、今なお重要性を失ってはおらず、情報倫理 学の基礎文献として抜群の引用率を誇っている。その意味では、本論文は単な る歴史的古典ではない。翻訳を許可されたムーア教授ならびに Metaphilosophy の版元であるBlackwell社に深く感謝する。
ムーア教授と私は、1998年にロンドンのLSEで開催されたComputer Ethics: Philosophical Enquiary 1998で出会い、その後、われわれFINEが京都で開催し た、The First International Workshop for Foundations of Information Ethics にも講演者の一人として参加いただいた。また、99年11月には、プリンストン大 学に客員研究員として滞在中であった私を、教授の主催するダートマス大学哲学 科SAPIENTIA Lecture Seriesの講師として招待してくださり、ダートマス大学 の美しいキャンパスで旧交をあたためることができた。本年7月には、先述の Computer Ethics: Philosophical Enquiary (CEPE)がダートマス大学で開催されること になっており、FINEからも私を含めて数名が参加する予定である。
(水谷記)

1 定義の提案

コンピュータは特別なテクノロジーであり、特別な倫理的問題を生みだす。 この論文でわたしが論じるのは、《コンピュータと他のテクノロジーとの違い は何か》ということと、《倫理的考察においては、この違いがどのような違い をもたらすのか》ということである。わたしが特にしたいことは、コンピュー タ倫理学を特徴づけることと、この新たな分野が知的関心を引くと同時にきわ めて重要でもある理由を示すことである。
わたしの考えでは、コンピュータ倫理学とは、コンピュータ・テクノロ ジーの本質およびその社会的インパクトを分析し、そしてこの分析をもとに、 そのようなテクノロジーを倫理的に使用するための指針を定式化し正当化する ことである。わたしが「コンピュータ・テクノロジー」という言い方を用いる のは、この分野の主題を広く捉えているからで、そこにはコンピュータとそれ に関連するテクノロジーが含まれる。たとえばこの分野の主題にはハードウェ アだけでなくソフトウェアに関する問題も含まれるし、コンピュータそれ自体 だけでなくコンピュータを結びつけるネットワークに関する問題も含まれる。
一般的に言うと、コンピュータ倫理学において問題が生じるのは、コン ピュータ・テクノロジーをどう使用すべきかについて、指針の空白policy vacuumが存在するからである。コンピュータがわれわれに新たな能力を提供す ると、今度はこの能力がわれわれに新たな行為の選択肢を与える。このような 状況においては、行動指針がまったく存在しなかったり、あるいはたとえ存在 したとしても、これまでの指針は適切ではないと思われることがしばしばであ る。コンピュータ倫理学の中心課題は、こうした事例においてどう行為すべき かを決めること --- すなわち、行為の手引きとなる指針を定式化すること --- で ある。もちろん、われわれが直面する倫理的状況には、個人的なものと、社会 的なものとがある。それゆえ、コンピュータ倫理学には、コンピュータ・テク ノロジーを倫理的に使用するための個人的な指針と社会的な指針の両方の考察 が含まれる。
さて、もしかすると、《やるべきことは、ある倫理学説を機械的に適用す ることによって、適切な指針を生みだすことだけだ》と思われるかもしれない。 しかし、通常これではうまくいかないのである。一つの問題は、しばしば指針 の空白とともに、概念の空白conceptual vacuumが存在するということである。 コンピュータ倫理学における問題は、一見するとはっきりしているように思わ れるかもしれないが、少し考えてみると、そこには概念的な混乱があることが わかる。そのような事例において必要とされるのは、行動指針を定式化するた めの整合的な概念的枠組conceptual frameworkを提供しうる分析である。実際 のところ、コンピュータ倫理学における重要な研究の大半は、コンピュータ・ テクノロジーに関わる倫理的問題を理解するための概念的枠組を提示すること に費やされている。
どのような種類の概念的作業が必要とされるのかを明確にするためには、 具体例が役に立つであろう。かりに、われわれがコンピュータ・プログラムを 保護するための指針を定式化しようとしているとしよう。一見したところ、問 題ははっきりしているように思われる。われわれはある種の知的所有物を保護 するための指針を探しているのだ。しかし、もう少し考えてみると、明白な答 えを持たない問いがいくつも生じてくる。コンピュータ・プログラムとは何か。 本当にコンピュータ・プログラムは所有されうる知的所有物なのか? あるいは むしろそれは、だれにも所有されないアイディアとかアルゴリズムのようなも のなのか。 もしコンピュータ・プログラムが知的所有物だとすると、所有され るのはアイディアの 表現形態 expression なのか(これは伝統的には著作権に よって保護される)、それとも所有されるのは 工程 process なのか(これは伝 統的には特許権によって保護される)。 機械が読めるプログラムは、人間が読 めるプログラムのコピーなのか。 明らかに、コンピュータ・プログラムの本 質を概念化しなければ、これらの種類の問いには答えられない。さらに、これ らの問いに答えられなければ、コンピュータ・プログラムを保護するのに役立 つ指針を定式化することはできない。ここで注目してほしいのは、どの概念化 の仕方が選ばれるかによって、指針の適用のされ方が影響を受けるだけでなく、 事実のあり方もいくらか影響を受けるということである。たとえば上の事例で は、あるプログラムが同一のプログラムの一例とみなされるかどうかは、概念 化の仕方によって決まるであろう。
もっとも、整合的な概念的枠組の中においてですら、コンピュータ・テク ノロジーを使用するための指針を定式化することは困難でありうる。さまざま な指針を検討するにつれ、われわれは自分が何に価値を置き、何に価値を置か ないかについて何らかの発見をする。コンピュータ・テクノロジーがわれわれ に新たな行為の可能性を提供するため、新たな価値観が生じる。たとえば、ソ フトウェアを生み出すことがわれわれの文化において持つ価値は、二三十年前 にはなかった価値である。また、古い価値観は見直されなくてはならない。た とえば、ソフトウェアを知的所有物と見なすにしても、そもそもなぜ知的所有 物は保護されるべきなのか。 一般に、相異なる指針を検討することは、自分が 持つ価値選好の発見と明確化をうながす。
コンピュータ倫理学の基本問題が持つ特徴は、コンピュータ・テクノロジー が 本質的に関係しているということであり、かつ何をすべきかについて、さ らには当の状況をどう把握すべきかについてさえ不確かさが存在するというこ とである。したがって、コンピュータが関係する倫理的状況のすべてがコン ピュータ倫理学の問題であるわけではない。もしある泥棒がコンピュータを含 め事務機器を手あたりしだい盗んだとしたら、その泥棒は法的にも倫理的にも 不正な行為をしたことになる。しかし、実はこれは法と倫理一般の問題である。 コンピュータは単に 偶然的にこの状況に関係しているにすぎないし、また満 たされるべき指針の空白も概念の空白も存在していない。状況も適用すべき指 針も明らかである。
ある意味でわたしは、コンピュータ倫理学が研究の一分野として特別な地 位を持つと主張している。応用倫理学は、単に倫理学が応用されたものではな い。しかし、それと同時にわたしは、コンピュータ倫理学の基礎をなす一般的 な倫理学および科学の重要性をも強調したい。倫理学説は、何が倫理的に重要 であるかを決めるためのカテゴリーと手続きを提供してくれる。たとえば、ど のような種類の事柄が善いのか。 われわれの基本的権利にはどのようなものが あるのか。 公平な視点とはどのようなものか。 これらの考察は、倫理的に行 為するための指針を比較したり正当化したりするさいに不可欠である。同様に、 科学的な情報は倫理的評価においてきわめて重要である。倫理的な論争が、価 値に関する意見の不一致ではなく、事実に関する意見の不一致に基づくもので あることがいかに多いかは驚くべきほどである。
わたしの考えでは、コンピュータ倫理学とは、絶えず変化するコンピュー タ・テクノロジーに関する事実、概念的枠組、指針、価値のあいだの関係を考 察する、動的で複雑な研究分野である。コンピュータ倫理学は、ニスを塗って 壁にかけられるような一連の定まった規則ではない。また、コンピュータ倫理 学は、倫理的原則を価値独立的なテクノロジーに機械的に適用することでもな い。コンピュータ倫理学は、コンピュータ・テクノロジーの本質と自分たちの 価値観について改めて考えることをわれわれに要求するのである。たしかにコ ンピュータ倫理学は科学と倫理学のあいだにある分野でありそれらに依存する のだが、同時にコンピュータ倫理学は、コンピュータ・テクノロジーを理解す るための概念的枠組とコンピュータ・テクノロジーを使用するための指針とを 提供する独立した学問分野でもあるのだ。
ここまでコンピュータ倫理学がわれわれの知的関心を引く特徴をいくつか 示したものの、わたしはこの分野の諸問題やこの分野の実践的重要性について はほとんど述べてこなかった。これまでにわたしが用いた唯一の例といえば、 非常に関心が限定されていると思われるコンピュータ・プログラムの保護の問 題だけである。しかし実のところ、わたしの考えでは、コンピュータ倫理学の 領域はかなり大きく、われわれすべてに影響する問題にまで広がっている。そ こでわたしはこれらの問題の考察に移り、コンピュータ倫理学の実践的な重要 性について論じたいと思う。議論を進めるにあたってわたしは、問題の一覧を 示すのではなく、コンピュータ・テクノロジーに関する倫理的問題を生みだす 条件と要因を分析するつもりである。わたしが特に分析したいのは、コンピュー タのどの点が特別なのか、コンピュータはどのような社会的インパクトを持つ のか、コンピュータ・テクノロジーのどの点に動作上のうさんくささがあるか という問いである。わたしはある種のコンピュータ倫理学を実際に行なうこと によって、コンピュータ倫理学の本質をいくらかでも示せることを期待する。

2 革命的な機械

コンピュータのどこが特別なのか コンピュータ革命が起きているとしばしば言われるが、 コンピュータを革命的なものにしているのは何なのか コンピュータの革命的な性質を評価するさいの一つの難点は、 「革命的」という言葉の価値が下がっているということである。 ちょっとした技術改良でさえ、革命的だとはやしたてられる。 しずくの垂れない新しい注ぎ口を製造した者が、 革命的と称してそれを売り出してもおかしくない。 ちょっとした技術改良が革命的であるならば、 絶えず変化するコンピュータ・テクノロジーが革命的であることは間違いない。 もちろん、われわれの関心を引く問題は、 このささいな意味とは違う意味で、 コンピュータが革命的だと言えるかどうかである。 コンピュータ・テクノロジーと他のテクノロジーの重要な違いはどこにあるのか コンピュータ革命を産業革命と比べる根拠は本当にあるのか
コンピュータを革命的なものにしている特徴を探し求めると、 いくつかの特徴が浮び上がってくる。 たとえばわれわれの社会では、 コンピュータは手頃な値段で手に入り、しかも巷にあふれている。 われわれの社会では最近、 あらゆる主要な企業、工場、学校、銀行、病院が コンピュータ・テクノロジーを利用しようと躍起になっている と言っても言いすぎではない。 何百万もの家庭用パソコンが売れている。 さらに、時計や自動車のように一見コンピュータには見えない製品であっても、 コンピュータはその不可欠な部分を構成している。 このようにコンピュータはたくさんあり高価でもないが、 しかしそれを言えば鉛筆も同じである。 単にたくさんあってしかも手頃な値段で手に入るという特徴を指摘するだけでは、 技術革命の主張を正当化するのに十分ではないと思われる。
コンピュータを革命的なものにしているのはその新しさだと 主張する者がいるかもしれない。 だがそのようなテーゼには条件を付ける必要がある。 電子デジタルコンピュータが登場してからもう40年になる。 それどころか、もしそろばんがコンピュータと見なされるのであれば、 コンピュータ・テクノロジーは最古のテクノロジーの一つである。 この主張をもっとうまく述べるには、 コンピュータを革命的なものにしているのは、 最近のコンピュータ工学の発展だと言えばよい。 明らかに、コンピュータはここ40年のあいだに大きく進歩した。 コンピュータの速度とメモリが劇的に増大したのと平行して、 コンピュータの大きさも劇的に減少した。 コンピュータ製造者がよく指摘するのは、 今日のデスクトップ・コンピュータが、 ほんの二、三十年前に部屋を占領していた巨大コンピュータのスペックを上回っている ということである。 また、コンピュータ会社は意を決して、 コンピュータ・ハードウェアとコンピュータ・ソフトウェアを より使いやすくしようと努力している。 コンピュータは完全にユーザ・フレンドリとは言えないかもしれないが、 少なくともかなりユーザ・フレンドリにはなった。 しかし、これらの特徴がいかに重要であるとはいえ、 それらがコンピュータ革命の核心を突いているとは思われない。 小型で、速く、強力で、使いやすい電動缶切りは初期の缶切りに比べれば 大きな進歩であるが、 しかし電動缶切りはここで用いられている意味では革命的とは言えないのである。
もちろんコンピュータがたくさんあり、より安価で、 より小型で、より速く、より強力で、 よりユーザ・フレンドリであることは重要である。 しかしこれらの特徴は、 コンピュータ革命の普及を可能にする条件として役目を果たすのである。 コンピュータ革命の本質は、 コンピュータそのものが持つ性質に見出される。 コンピュータの革命的な点は、 論理的適応性 logical malleability である。コンピュータの論理的適応性とは、 コンピュータは、 入力と出力および両者を結合する論理的操作によって 特徴づけられる活動のあらゆる形態に応じて作られうるということである。 論理的操作とは、コンピュータを一つの状態から次の状態にする 正確に定義された手順のことである。 コンピュータの論理は、 ハードウェアやソフトウェアの変更によって、 無限の仕方で伝達し作り出すことができる。 ちょうど蒸気エンジンの力が産業革命の原材料だったように、 コンピュータの論理はコンピュータ革命の原材料なのである。 論理はどこにでも適用されるので、 コンピュータ・テクノロジーの潜在的な適用方法は無限にあると思われる。 コンピュータは万能道具にもっとも近いものである。 実際、コンピュータの限界はわれわれ自身の創造力の限界に負うところが大きい。 コンピュータ革命を推進させている問いは、 「コンピュータの論理をわれわれの目的により役立つようにするには、 どのようにしたらいいか」というものである。
論理的適応性は、 コンピュータがすでに広範に用いられていることを説明し、また、 コンピュータが持つ運命にある巨大なインパクトをも示唆すると思われる。 コンピュータの論理的適応性を理解することが、 進行中の技術革命の力を理解するためには不可欠である。 論理的適応性を理解することはまた、 コンピュータを使用するための指針を定めるさいにも重要となる。 これ以外の仕方でのコンピュータ理解は、 行動指針の定式化と正当化の基礎としてはあまり役に立たない。
よく知られている別のコンピュータ理解を考えてみよう。 この理解によると、 コンピュータは数値計算屋すなわち本質的には計算装置だとみなされる。 この理解によれば、コンピュータは大きな計算機でしかない。 この見地からすると、 数学や科学的な使用の方がワードプロセッシングのような非数値的使用よりも 重要だと主張されるかもしれない。 それに対して、わたしの立場は、 コンピュータは論理的適応性を持つというものである。 数学的解釈はたしかに間違いではないが、 しかしそれは多くの解釈の一つに過ぎない。 論理的適応性は統語論的次元と意味論的次元を持っている。 統語論的には、コンピュータの論理は、 とりうる状態および操作の数と種類の点で適応性を持つ。 意味論的には、コンピュータの論理は、 コンピュータの状態があらゆるものを表わしうるという点で適応性を持つ。 コンピュータは記号を操作するが、 記号が何を表わしているかについては無関心である。 したがって、 非数値的使用よりも数値的使用の方を優先するための存在論的基礎はないのである。
たしかにコンピュータは、非常に低いレべルにおいてさえ、 数学的言語を用いて記述されうるが、 だからといってコンピュータが本質的に数値的なものであることにはならない。 たとえば機械語は0と1によって表現すると便利で、 またそうするのが伝統的である。 しかし、0や1は単に異なる物理的状態を指し示しているにすぎない。 これらの状態を「入」と「切」あるいは「陰」と「陽」と命名し、 二値論理を適用することもできるのである。 明らかに、いくつかのレベルにおいては、 コンピュータの演算を記述するのに数学的な記号を用いた方が便利であり、 またそうすることが理に適っていると言える。 誤っているのは、数学的記号をコンピュータの本質として理解し、 この理解に基づいてコンピュータの適切な用い方についての判断を 下そうとすることである。
一般に、われわれのコンピュータ・テクノロジー理解は、 それを使用するための指針に影響を与える。 コンピュータ・テクノロジーの本質とインパクトを正しく理解することは、 コンピュータ革命が進展するにつれてますます重要になると思われる。

3 コンピュータ革命の分析

コンピュータ革命は進行中であるため、その発展の全体像を捉えることは 難しい。産業革命を眺めることで、技術革命の本質についていくらかの洞察を えることができると思われる。大ざっぱに言うと、英国の産業革命には二つの 主要な段階があった。第一段階は技術の導入段階であり、これが起きたのは18 世紀後半のことである。この段階では発明や製法が導入され、試験され、改良 された。産業化がなされたのは、経済の限られた領域においてであり、とりわ け農業と繊維業においてであった。第二段階は技術の普及段階であり、これは 19世紀のことである。工場労働が増え都市人口が膨らむにつれ、名高い社会的 害悪が生まれたばかりでなく、人間の営みと制度においても同じくらい重要な 変化---労働組合から公共医療サービスに至るまでの多様な変化---が起きた。産 業化の力が社会を劇的に変質させたのである。
わたしの推測では、コンピュータ革命はこれと似た二段階の発展を遂げる であろう。第一段階である導入段階は、ここ40年のあいだずっと続いてきた。 電子計算機が作られ、洗練され続けてきた。われわれは次第に第二段階に --- す なわち、社会の全体にわたって、コンピュータ・テクノロジーが制度にとって なくてはならない部分となる普及段階に --- 入りつつある。きたる数十年のあい だに、人間の活動と社会制度の多くがコンピュータ・テクノロジーによって変 質させられるだろう。コンピュータ化によるこの変質作用によって、コンピュー タ倫理学が扱うべきさまざまな問題が生じるものと思われる。
「変質する」という言葉によってわたしが意味するのは、《活動や制度の 基本的な性質ないし目的が変化する》ということである。これは、質問される 問いの種類によって見分けがつく。導入段階では、コンピュータは通常の仕事 をするための道具として理解される。この段階での典型的な問いは、「コン ピュータはかれこれの活動をどの程度うまくやるのか」である。その後、普 及段階に入ると、コンピュータは当の活動にとってなくてはならない部分とな る。この段階での典型的な問いは、「かれこれの活動の本質と価値は何である のか」である。質問される問いの種類によって見分けられるコンピュータ化 による変質作用の兆候が、われわれの社会にはすでにいくらか現われている。
たとえば、もう何年ものあいだ、コンピュータは投票数を集計するのに利 用されてきた。今や投票の過程は高度にコンピュータ化されている。コンピュー タは投票数を集計したり結果を予測するのに使用されうる。テレビ・ネットワー クは、コンピュータを用いて誰が勝っているかを即座にわりだし、その結果を 技術的に驚くばかりの仕方で表示する。先の米国大統領戦(1984年)では、テレ ビ・ネットワークが結果の予測を出したのは、カリフォルニアでの投票が終了 する前であるばかりか、ニューヨークでの投票が終了する前でもあった。実際、 半分以上の州においてはまだ投票が終わっていなかったときに勝者が発表され たのである。質問されるべき問いはもはや、「コンピュータは公平な選挙にお いてどれだけ能率的に投票数を集計できるか」ではなく、「公平な選挙とは 何か」である。投票をする前に結果を知る人がいるというのは適切なことな のだろうか 問題はコンピュータが各候補者の得票数を一覧表にするばかり でなく投票数やその配分にも影響を与える可能性が高いということである。よ かれあしかれ、われわれの選挙の過程は変質しつつある。
コンピュータが社会にますます普及するにつれて、コンピュータが基本的 な制度や実践にもたらす変質作用を、われわれはますます目の当たりにするこ とになるだろう。コンピュータ化されたわれわれの社会が今から50年後にどう なっているかは誰にもはっきりとはわからないが、日々の仕事のさまざまな側 面が変質されるだろうと考えるのはもっともである。コンピュータはもう何年 ものあいだ企業によって使用されており、たとえば給与支払総額を計算するな どの機械的な仕事を迅速にこなしてきた。しかし、パソコンが普及し経営陣が 自宅で仕事できるようになるにつれ、またロボットたちがますます多くの工場 労働を行なうようになるにつれ、「コンピュータはどのぐらいわれわれの仕事 に役立つか」という問いだけでなく、「この仕事の本質は何か」という問い も提起されるようになるであろう。
伝統的な労働はもはや特定の時間や特定の場所で普段行なわれるものとは 定義されなくなるかもしれない。われわれの労働は、仕事をするというよりも、 コンピュータに仕事を教えるというものになるかもしれない。労働の概念が変 わり始めると、古い概念と結びついていた価値観も再考される必要が生じる。 自宅のコンピュータ端末に向かって働く経営者は、同僚との自然な交流をいく らか失なうだろう。ボタンを押してロボットに指示を出す工場労働者は、完成 品に対してあまり誇りを抱かなくなるだろう。また、これと似た影響がほかの 種類の労働においても予想される。商業パイロットはコンピュータが自分の飛 行機を操縦するのを見て、自分の仕事が予想していたものとは違うと感じるか もしれない。
コンピュータ・テクノロジーによる変質作用のさらなる例は、金融制度に おいて見いだされる。資金の運用と保管がますますコンピュータ化されるにつ れ、「コンピュータはどれくらい上手にお金を数えられるか」と問われるだけ でなく、「お金とは何か」とも問われるようになるだろう。たとえば、何かを 買った時点で自分の口座から電子的に引き落しがなされるキャッシュレス社会 においては、コンピュータによる記録の方が便利だということでお金は消滅し たのか、それとも電子的インパルスがお金になったのだろうか。 お金がさわれ ないものになったとき、いかなる機会と価値が失なわれたのか、あるいは得ら れたのか。
コンピュータによる変質作用がもたらされそうなさらに別の領域は、教育 である。現在、コンピュータの教育ソフトはかなり限定されている。今日、 「コンピュータでどのぐらいよく教育を行なえるのか」と問うことはまった くもって適切である。しかし、先生と生徒がコンピュータ・ネットワークを通 じて間接的に情報をやりとりする機会がますます増えるにつれ、またコンピュー タが機械的な教育活動を引き受けることがますます多くなるにつれ、問いが 「教育とは何か」というものに変わることは避けられないであろう。伝統的 な教育方法と結びついていた価値観についても再考を迫られるであろう。人と ふれあうことは学習のためにどれだけ必要あるいは望ましいのか 授業はコン ピュータがするとき、教育とは何であるのか。
このように未来について論じるポイントは、コンピュータ・テクノロジー がもたらすであろうインパクトを示唆することである。細かい点がどうなるか はわからないが、わたしが示唆しているような変質が起こることは間違いない と思われる。コンピュータ倫理学の実践的な重要性を主張するわたしの議論を 支持するためには、それさえ言えれば十分である。まとめると、議論は次のよ うになる。コンピュータの革命的特徴は、その論理的適応性である。論理的適 応性は、コンピュータ・テクノロジーが大規模に使用されることを保証する。 これによってコンピュータ革命がもたらされる。コンピュータ革命のあいだに、 人間の活動と社会制度の多くは変質する。こうした変質によって、コンピュー タ・テクノロジーをどう使用するかについての指針および概念の空白が生じる。 そのような指針および概念の空白は、コンピュータ倫理学の基本問題のしるし である。したがって、コンピュータ倫理学は実質的な実践的重要性を持った分 野である。
コンピュータ倫理学の実践的価値を支持するこの議論には説得力があると わたしは思う。この議論は、コンピュータ倫理学がわれわれの社会においてま すます用いられるようになることを示していると思われる。この議論はたしか に、みなが共有しているとは言えないコンピュータ革命像に基づいている。そ こでわたしは次に、コンピュータ倫理学の実践的重要性を支持する別の議論を 提示するが、こちらはコンピュータ革命についての特定の見解には基づいてい ない。この議論は不可視性要因invisibility factorに基づいており、今日の コンピュータ倫理学が直面するいくつかの倫理的問題を示唆するものである。

4 不可視性要因

コンピュータに関してある重要な事実がある。たいていの場合、またたい ていの状況下では、コンピュータの動作は不可視である。コンピュータの入力 と出力についてはよく知っていても、内部での処理作業についてはただぼんや りとしか知らないということはままあることである。しばしばこの不可視性要 因によって、コンピュータ・テクノロジーの使用法に関する指針の空白が生み 出される。以下では、倫理的な重要性を持ちうる三種類の不可視性について論 じる。
倫理的な重要性を持つもっとも明白な種類の不可視性は、不可視性の悪用 である。 不可視性の悪用 invisible abuseとは、コンピュータの動作が不可 視であることを故意に利用して、反倫理的な行動に携わることである。これの 古典的な例は、銀行から余分な利子を盗めることに気づいたあるプログラマー の事例である。銀行口座の利子が算出されるとき、端数を切りすてた後にしば しば1セントよりも小さな余りが出る。このプログラマーはコンピュータを操 作して、こうした1セントより小さな余りが自分の口座に入るようにしたので ある。これはたしかに通常の窃盗の一例であるが、コンピュータ倫理学に深く 関係すると言える。というのは、この事例においてはコンピュータ・テクノロ ジーが本質的に関係しており、またこのような悪用をもっともよく探知し防止 するためにはどういう指針を打ち出すべきかという問いが存在するからである。 利子を盗むために使われるプログラムを手に入れるか、あるいは洗練された会 計プログラムを手に入れるかしないかぎり、こうした活動は気づかれないまま になってしまうことが多いだろう。
不可視性の悪用の別の可能性は、他人の所有権やプライバシーの侵害行為である。 コンピュータにプログラムすれば、 電話回線を通じて他のコンピュータと交信し、 内密の情報を不正に削除したり変更したりすることができる。 これを行なうために、 安価なコンピュータと電話用コンセントさえあれば十分な場合もある。 ミルウォーキーの電話交換局の番号にちなんで「414s」と名乗った十代の集団が、 自宅のコンピュータを使ってニューヨーク病院、カリフォルニア銀行、 政府の核兵器研究所に侵入した。 これらの不法侵入はいたずらとしてなされたものであるが、 このような侵入が悪意からもなされうることは明らかであり、 侵入を探知するのは困難であるか不可能に近い。
不可視性の悪用でとりわけ油断のならない例は、 コンピュータを監視用に使うことである。 たとえば会社の中央コンピュータは、 コンピュータ端末でなされる作業を監視するさいに、 労働搾取工場の一番熱心な経営者よりもはるかに手際よく、 しかもはるかに慎重に監視を行なうことができる。 またコンピュータにプログラムすれば、 盗聴している証拠を一切与えることなく、 電話や電子メイルでのやりとりを監視することができる。 たとえばあるテキサスの石油会社は、 アラスカ州の権利貸与の入札でいつも負けてしまうのはどうしてかと 頭を悩ませていたところ、 アラスカにある会社のコンピュータ端末付近のデータ伝達回線を 他の入札者が盗聴していることが判明したのである。
第二の種類の不可視性要因は、プログラム内にある不可視的な価値観の存在であり、 これは第一のものと比べてより難解かつ概念的に興味深いものである。 プログラム内の不可視的な価値観 invisible programming valuesとは、 コンピュータ・プログラムの奥深くに埋めこまれている価値観のことである。
コンピュータ・プログラムを書くことは家を建てることに似ている。 設計明細書がどれほど詳しいものであっても、 指定されていない事柄について数多くの決断を下さなければ 建築家は家を建てることができない。 所定の設計明細書に従っていてもさまざまな家が作られうる。 それと同様に、 コンピュータ・プログラムの依頼は、 実際のプログラム言語の委細に比べると、 はるかに抽象的であることが普通である。 そこで、スペックを満たすプログラムを作るために、 プログラマーは何が重要で何が重要でないかについて いくつかの価値判断を下すことになる。 こうした価値観は完成した製品の奥深くに埋めこまれているので、 プログラムを実行する人には不可視であるかもしれない。
たとえばコンピュータ化された航空便の座席予約について考えてみよう。 予約サービスを行なうために、多くの異なるプログラムを作ることができるだろう。 以前、アメリカン航空は「SABRE」と呼ばれるサービスの促進に努めていた。 このプログラムはアメリカン航空の航空便をひいきするように作られていたので、 アメリカン航空の航空便が利用可能な最善のものではない場合にさえ、 この航空会社の航空便が勧められることがあった。 実際、しばらく破産状態になったブラニフ航空は、 アメリカン航空を相手どって訴訟を起こし、 予約サービスにおけるこの種のひいきのせいで 会社が経済的困難に陥ったのだと主張した。
ひいきがかった予約サービスが一般的に用いられることは 倫理的な問題を生みだすが、 そのようなサービスを作るプログラマーは不可視性の悪用に かかわっていることもあれば、そうでないこともあるだろう。 プログラマーが意図するプログラムの使われ方と、 実際の使われ方が異なることもありうる。 さらに、 まったくひいきのない予約サービスのプログラムを作ろうと思っても、 プログラムの動作の仕方についていくつかの選択をしなければならないため、 プログラムにはいくつかの価値判断が入りこんでしまうのである。 航空会社はアルファベット順に表示されるのだろうか。 一度に一つ以上の航空会社が表示されるのだろうか。 希望の時間の直前の航空便も表示されるのだろうか。 希望の時間以降はどのくらいの期間の航空便が表示されるのだろうか。 プログラムを作るときには、 これらの問いに対するなんらかの答を --- 少なくとも暗黙のうちに --- 出さなければならない。 どのような答が選ばれるにせよ、 プログラムには特定の価値観が埋めこまれるのである。
プログラム内の不可視的な価値観があまりに不可視であるために、 プログラマーでさえそれに気づかない場合もある。 プログラムにはバグがあるかもしれないし、 緊急事態が生じるまでは表に出ないような暗黙の前提があるかもしれない。 たとえば、不幸なスリーマイル島の原子力発電所の技師たちは、 他の誤作動によって引き起こされる誤作動も含め、 起こりうる誤作動をシミュレートするようにプログラムされたコンピュータを用いて訓練を受けていた。 しかし、災害を調査したケメニー委員会が発見したように、 シミュレーターは、同時に起きる相互に無関係な誤作動を発生させるようには プログラムされていなかった。 スリーマイル島で起きた実際の事件では、 技師たちはまさにこの状況 --- 同時に起きる相互に無関係な誤作動 --- に直面したのである。 コンピュータ・シミュレーションの不十分さは、 プログラミング中になした決断の結果であり、 その決断がいかに無意識で暗黙のうちになされたものであろうと そのことに変わりはない。 災害のあとまもなく、コンピュータはプログラムされ直し、 スリーマイル島で実際に起こったものと同様な状況を シミュレートできるようになった。
第三の種類の不可視性要因は、 不可視的な複雑な計算 invisible complex calculationであり、 おそらくこれがもっともやっかいである。 今日のコンピュータは、人知を超えた膨大な計算を行なうことができる。 たとえプログラムが理解できたとしても、 そのプログラムに基づいた計算が理解できるとは限らない。 今日のコンピュータは、 人間が確認したり理解したりするにはあまりに複雑な計算を行なう。 未来のスーパーコンピュータについては言うまでもない。
そのような複雑な計算の興味深い一例が現われたのは1976年のことで、 コンピュータが四色問題に取り組んだときのことである。 四色問題とは、数学者たちが一世紀以上にわたって取り組んできた問題で、 《となりあったいかなる領域も同じ色にならないように、 四色以内である地図をぬり分けることが可能なことを示せ》 という問題である。 イリノイ大学の数学者たちは、この問題を数千もの事例に分割し、 コンピュータをプログラムしてそれらの事例を考えさせた。 さまざまなコンピュータを用いてコンピュータ時間で一千時間以上考えさせた結果、 四色でぬり分けられるという推測が正しいことが証明された。 伝統的な証明と比べてこの数学的証明のおもしろいところは、 証明の大部分が不可視だということである。 証明の一般的構造は知られておりプログラム中にも見いだされる。 また、コンピュータの活動のどの特定の部分にしても検討可能である。 しかし、実際的に言って計算はあまりに膨大なので、 人間がそのすべてを検討することは不可能なのだ。
問題は、 コンピュータによる不可視的な計算をどの程度信用すべきかである。 これは帰結の重要度が増すに従って重大な倫理的問題になる。 たとえば軍隊では核兵器を発射する決断を下すためにコンピュータが用いられる。 一方で、コンピュータは誤ちを犯す可能性があるが、 コンピュータによる状況評価の正しさを確認する時間はないかもしれない。 他方で、コンピュータを用いずに核兵器発射の決断を下すのは、 いっそう誤ちを犯す可能性が高く、いっそう危険である。 不可視的な計算を信用することに関する指針はいかなるものであるべきか。
不可視性問題の部分的な解決策は、コンピュータ自体に備わっているのかもしれない。 コンピュータの長所の一つは、隠れた情報を見つけだし、それを表示する能力である。 コンピュータは不可視的なものを可視的にする。 データの海に消えた情報は、 適切なコンピュータ分析を行なえば、 はっきりとその姿を現わすだろう。 しかしここに落し穴がある。 コンピュータの注意をいつ、どこに、どのようにして向けるべきか、 われわれは常にわかっているわけではないのだ。
不可視性要因によってわれわれはディレンマに直面する。 ある意味で、われわれはコンピュータの動作が不可視であることに満足している。 われわれは、 コンピュータ化された処理を逐一調査したり、 各ステップを自分自身でプログラムしたり、 コンピュータが行なう計算のすべてを見たりしたいとは思わない。 能率の点から言えば、不可視性要因は天の恵みである。 しかし、まさにこの不可視性がわれわれをあやうくするのである。 われわれは、 不可視性の悪用、不適切な価値の不可視的なプログラミング、 不可視的な誤計算などによる被害を受ける可能性がある。 コンピュータ倫理学に求められているのは、 このディレンマを切り抜けるのに役立つ指針を定式化することである。 われわれは、いつコンピュータを信用し、いつ信用しないかを決めなくてはならない。 これがコンピュータ倫理学がきわめて重要であるもう一つの理由である。

目次に戻る

ホイットマンとディラン I Contain Multitudes

ホイットマンとディランとスピノザ I Contain Multitudes
https://love-and-theft-2014.blogspot.com/2020/04/blog-post_81.html@
スピノザの「マルチチュード」とプルードン:再掲
https://freeassociations2020.blogspot.com/2020/04/blog-post_59.html
ディランは(ガスリーのように)ホイットマンの赤裸々な性欲讃歌は受け継いでいない。
とはいえ I Contain Multitudes なる曲名はホイットマンの詩から取られたらしい。
表題は米国の詩人ウォルトホイットマンの詩作 Song of Myself の一節を引いている。
ディランはネグリは知らない?

(マルチチュードの用例はエチカ5:20備考内4にある)

 四 物の共通の特質ないし神に関係する感情はこれを養う原因が多数であるということに(この部の定理九および一一を見よ)。
   4. In multitudine causarum, a quibus affectiones, quae ad rerum communes proprietates vel ad Deum referuntur, foventur. Vide prop. 9. et 11. huius.   

 定理二〇 神に対するこの愛はねたみや嫉妬の感情に汚されることができない。むしろより多くの人間が同じ愛の紐帯によって神と結合することを我々が表象するに従って、この愛はそれだけ多くはぐくまれる。

プルードンが引用した箇所が続く



I am large, I contain multitudes.


歌詞和訳 Bob Dylan – I Contain Multitudes

2020年発表。

I Contain Multitudes

(Bob Dylan)
Today and tomorrow, and yesterday, too
The flowers are dying like all things do
Follow me close, I’m going to Bally na Lee
I’ll lose my mind if you don’t come with me
I fuss with my hair and I fight blood feuds
I contain multitudes 
今日も明日も、そして昨日もだったが
花は万物に同じく枯れていく
ついて来てくれ、バリーナリーに行くから
一緒に来てくれないと気が変になってしまう
俺は髪をいじり、そして血で血を洗う
俺は多くを含んでいるのだ 
Got a tell-tale heart like Mr. Poe
Got skeletons in the walls of people you know
I’ll drink to the truth and the things we said
I’ll drink to the man that shares your bed
I paint landscapes and I paint nudes
I contain multitudes 
ポー氏の様な告げ口心臓を持ち
壁には知り合いの骸骨が埋まっている
真実、そして語った事に乾杯しよう
君とベッドを共にする男に乾杯しよう
俺は風景を描きヌードを描く
俺には多くのものがあるのだ 
A red Cadillac and a black mustache
Rings on my fingers that sparkle and flash
Tell me, what’s next? what shall we do?
Half my soul, baby, belongs to you
I rollick and I frolic with all the young dudes
I contain multitudes 
赤いキャデラックに黒い口ひげ
指にはめたキラキラ光る指輪
教えてくれ、次は何だ?何をすればいい?
俺の魂の半分は君のもの
俺はすべての若き野郎どもと浮かれ戯れる
俺は多くを含んでいるのだ 
I’m just like Anne Frank, like Indiana Jones
And them British bad boys, the Rolling Stones
I go right to the edge, I go right to the end
I go right where all things lost are made good again 
俺はアンネフランクやインディジョーンズの様
あの英国の悪ガキ、ローリングストーンズの様
俺はギリギリまで行く、最後まで行く
俺は失われたものが全て蘇る所へ行くのだ 
I sing the songs of experience like William Blake
I have no apologies to make
Everything’s flowing all at the same time
I live on a boulevard of crime
I drive fast cars and I eat fast foods
I contain multitudes 
俺はウィリアムブレイクの様に経験の歌を歌う
謝るべき事などない
全ては同時に流れている
俺は犯罪の大通りに住んでいる
速い車を駆り、そしてファストフードを食べる
俺には多くのものがあるのだ 
Pink pedal pushers, red blue jeans
All the pretty maids and all the old queens
All the old queens from all my past lives
I carry four pistols and two large knives
I’m a man of contradictions, I’m a man of many moods
I contain multitudes 
ピンクペダルプッシャ、レッドブルージーンズ
全ての可愛いメイドに全ての老いた女王
これまでの人生で見た全ての老いた女王
拳銃四丁に大型ナイフ二丁を持ち歩く
俺は矛盾に満ちた、気分屋の男
俺は多くを含んでいるのだ 
You greedy old wolf
I’ll show you my heart
But not all of it
Only the hateful part
I’ll sell you down the river
I’ll put a price on your head
What more can I tell you?
I sleep with life and death in the same bed 
欲張り老狼の君に
俺の心を見せてやろう
ただ全部ではなく
嫌な部分だけを見せてやる
俺は君を裏切って
その首に懸賞金をかけてやる
これ以上何を話せばいいだろう
俺は同じベッドで生と死と共に寝るのだ 
Get lost, madam, get up off my knee
Keep your mouth away from me
I’ll keep the path open, the path in my mind
I’ll see to it that there’s no love left behind
I play Beethoven’s sonatas, Chopin’s preludes
I contain multitudes 
行け、女よ、俺から離れて
俺に口を出すな
道は開けておく、俺の心の中の道は
未練など残らぬようにしておく
ベートーベンのソナタ、ショパンの前奏曲を
弾こう、俺には多くのものがあるのだ 

表題は米国の詩人ウォルトホイットマンの詩作 Song of Myself の一節を引いている。
I am large, I contain multitudes.
また詞中にも多くの作品名が登場する。
Got a tell-tale heart like Mr. Poe
↑
The Tell-Tale Heart 告げ口心臓
(エドガー・アラン・ポー)
A red Cadillac and a black mustache
↑
Red Cadillac And A Black Moustache – Warren Smith

I rollick and I frolic with all the young dudes
↑
All the Young Dudes すべての若き野郎ども

I sing the songs of experience like William Blake
↑
Songs of Innocence, and Songs of Experience
(William Blake)
Pink pedal pushers
↑
Pink Pedal Pushers – Carl Perkins

red blue jeans
↑
Red Blue Jeans And A Pony Tail – Gene Vincent & His Blue Caps

経済漫画

ゆきひろ@トレードトラベラー (@yukihiro_fx)
今の状況を的確に表してる😱 pic.twitter.com/GPlerAQk2X

https://twitter.com/yukihiro_fx/status/1255693046106091520?s=21