人工知能(AI)の開発は「人類の存在の最大の脅威」になる!?制御が出来るか・・・

人工知能の驚異的な開発とともに、脅威論も浮上!

これはSF作家の未来図ではない。米国の著名な理論物理学者が「潜在的な脅威」を唱え、あのビル・ゲイツ氏も人工知能に注意するよう警告しています。

米国メディアにAIの脅威について質問されーこれは確かに不安を招く問題だ。よくコントロールできれば、ロボットは人間に幸福をもたらせる。しかし、数年後、ロボットの知能は充分に発展すれば、必ず人間の心配事になる。

思考する機械を作ることは「悪魔を召喚することに等しい」(昨年11月)と、極論する米国のイーロン・マスク氏のような世界的な起業家もいます。

人間社会に寄り添い、人工知能は様々な分野に進出

様々な分野や生活現場で人工知能は開発され、すでに商品化が実現しCMやイベントで利便性がアピールされています。

■例えば2021年度に東大合格を目指す「東ロボくん」が話題になっていますが、慶応は16日、医師国家試験を解く人工知能を開発したと発表しました。

■少子化・超高齢社会に伴い、ソフトバンクは感情を持ったパーソナルロボット、Pepper(ペッパー)を実用化させています。

「Pepperがやってきて、家族の笑顔が増える。子どもたちの勉強の相手だったり、1人暮らしのおばぁちゃんが元気になったり。会話を楽しんだり・・・」

207489691_624.v1442833953

ペッパー君には「感情認識機能」が備わっているのが特徴。人の感情を理解するだけでなく、自らが感情を持ったロボットとして周囲の状況に応じて、「心が触れ合う存在を目指している」そうです。

 

 画像出典:photozou

■その他「介護ロボット」や、コンピューター将棋もプロ棋士との対局でも話題になっています。とくに対局戦はネット中継されていますが、羽生善治名人はコンピューター将棋について、こんな興味深いコメントをしています。

1秒間に百万手も読める莫大な計算力のコンピューターと同じ思考を持つことはできません。コンピューター的思考を取り入れていくと、その美意識が崩れていくことになる。それが本当にいいことなのかどうか、全く違った方向に導かれてしまう危険性も孕んでいます(ルポライター高川武将氏インタビューより)。

脅威論が飛び交う人工知能(AI)ってそもそも何?

研究現場で一致している未来図は「様々な分野でコンピューターが人間の能力に追いつき、追い越して行くーと予想している」ことです。

その研究過程で究極の問題は

■人工知能は人類をどこに連れて行こうとしているのか?
■本当に怖い人工知能はすでに稼働しているのではないか?
■本当にこんなものを作っていいのかーという疑問?

まるでSFまがいのシリアスな話のようです(この項目は後述)が、その前に「人工知能って何なのか?」―「人工知能学会」は次のように説明しています。

人工知能の研究には二つの立場がある、とした上で、一つには人間の知能そのものをもつ機械を作ろうとする立場。もう一つは、人間が知能を使ってすることを機械にさせようとする立場で、実際の研究のほとんどは後者の立場にたっています。人間のような機械を作っているわけではありません。

具体的にはカーナビなどで実用化されている「音声認識」。カメラで撮った内容をコンピューターに理解させる「画像認識」「言語処理」など、生活密着型を軸に多様なAIの実用化が進み、開発は各国の国家戦略に組み込まれています。

問題は人間の能力を追い越したとき、当事者はどう反応するか。そして社会はその現実をどう受け止めるか。前述した脅威論と直結することになります。

「さらに特定の集団、それは国かかもしれませんが、地下の研究室で兵器開発をしていたら・・AI開発はそのリスクを絶えず孕んでいます」(科学記者)。

特許出願数が世界的に多いAI大国アメリカでは・・

14696937320_c76e4b8646_b
画像出典:Flickr photo by Global Panorama

そもそも「人工知能」の用語は1956年、米国の計算機械科学者が人工知能の会議の提案書の中で使用したと言われています。

当時は人間にしか解けない問題を機械が解くことや、機械が言語を使うようにすることなどの研究が主題でした。

「当時そうした研究やシュミレーションは夢物語のレベルで、まさか将来テロや軍事に影響をもたらすとは、大半の人は想像しなかったはずです」(科学記者)。

■ハリウッドでは10年以上前から映画の脚本制作に「ドラマティカ」というストーリー作成機能が重宝がられています。「キャラクター」「ストーリー」などヒットする脚本のパターンを解析してくれる、ハリウッドの〝脳みそ〟のようです。もちろん金融関係のし烈なマネーゲームでもAIは活躍しています。

マイクロソフト、グーグル、アップルなどは顧客対応のデジタル秘書機能の開発に熱心です。AIのミッションは相対方式による顧客取り込みが主流です。

国家間の競争が激化するAI開発の「平和」利用と「軍事的」側面

Gladiator_240G
画像出典:Wikipedia

今回の人工知能の論考は、お笑いブームで芸人の相方にロボット君が登場したら、速射砲のようなやり取りは成立するだろうか。ボケやツッ込み役はこなせるだろうかーと、笑える仮説から始めようと思っていました。

ところが取材を進めると「ペッパー君」や「東ロボくん」の楽しい話題とは別にシリアスな問題が浮上しました。それは冒頭既述したAI脅威論です。

映画「2001年宇宙の旅」で人工知能を備えたHAL9000は、時には人間の良き友人となり、時には人類の敵にさえなり得る存在として描かれました。しかしそれはSFの世界のこと、フィクションにおける人工知能の話でした。いまでは人間が作り出した機械の頭脳は、いつまで人類の手の中にいるだろうか、と脅威論が飛び出し、それは人類が直面する深刻な問題になっています。本当に怖い人工知能はすでに動き出しているのです(シンクタンク研究員)。

■中国は国家プロジェクトで合格ロボの開発に乗り出しています。主要国でもAIの開発の技術水準を上げることに躍起です。日本でも政府が「日本再興戦略」で国の競争力を引き上げる必要性を唱えています。国家間の競争激化です。

しかしAI開発の中でも深いベールに包まれているのが軍事開発の分野です!
「人工知能の研究や開発が地下に潜ったらどうするのか?」
「本当にこんなものを作っていいのか?」

こういった文脈でアメリカの有力メディアでは問題提起が活発です。

人工知能が人間の知能を超える「2045年問題」とは?

スクリーンショット 2015-09-22 11.11.01

「2045年問題」とは、同年に人工知能がさらに自分よりも優秀なAIを開発し、人間の知能を超えるという未來予測のことです。

SF映画「ターミネーター」は自らの配下にある兵器で機械軍を編成し、人間狩りを開始したスカイネットを連想させるような話ですが、実は識者の間では2045年問題が大マジメに論じられているのです。人工知能が知識・知能の点で人間を超え、科学技術の進歩を担う技術的特異点(シンギュラリティ)が訪れ、人工知能は人間最後の開発になるという驚くべき予測です(科学記者)。

「人工知能(AI)によって我々は悪魔を呼び出そうとしている」―イーマン・ロスクの「悪魔発言」以外にも著名な科学者が脅威論をブチあげています。

「人間が作り出した機械の頭脳は、いつまで人類の手の中にいるのか」との警鐘も聞かれます。AIに対してネガティブな感情が起こっているのも事実です。

脅威論は杞憂? AIの悪魔的力にどう対処すればいいか・・・

AIベンチャーや科学者は脅威論の広がりや、悪魔発言を認識した上で、「知能だけ進化しても、精密に制御できる機械の必要性」を唱えています。
ただに知能をインプットしても知性を吹き込むことは可能なのでしょうか・・・

人間の脅威にならないようにAIデザインをいかにすべきか必要不可欠です。人類が愚かな過ちを犯さないために、国家レベルの監視も必要になっています。ただ開発の過程や研究の透明性を求めるのは難しい」(シンクタンク研究員)。

人工知能は人類をどこへ連れて行くのか―日々、様々な分野で開発ニュースに接する度に、そんな疑問が膨らんでいます。単なる杞憂に過ぎないでしょうか。

人工知能の開発で、私たちが直面する問題・課題は多種・多様にありそうです。

[文]メディアコンテンツ神戸企画室 神戸陽三 [編集]サムライト編集部