Global Ethics


AIに支配される社会 人知超えた学習能力 検証不能でも「お任せ」   by limitlesslife
May 10, 2016, 11:00 pm
Filed under: 人工知能)
特集ワイド AIに支配される社会
人知超えた学習能力 検証不能でも「お任せ」
毎日新聞2016年5月10日 東京夕刊

「怒りの葡萄」時代再現 人間らしい価値どこへ

人工知能(AI)が、知恵比べで人間を打ち負かす“事件”が相次いでいる。芸術活
動もできるらしい。賢いAIに仕事や危機管理を任せてしまうという考えが、SF小説
の絵空事ではなくなってきた。人類がAIに支配される日は近い?【井田純】

<その日は、雲が低く垂れ込めた、どんよりとした日だった。>

こう始まる短編小説「コンピュータが小説を書く日」は、現状に不満を持つAIが小
説を書く楽しみに目覚める話だ。3月の星新一賞第1次審査をパスした新進気鋭作家。
それは、人工知能学会会長を務める、松原仁・公立はこだて未来大学教授らのプロジェ
クトが開発したAIだ。

松原さんによると、今回のAIの役割は、人間がつくった話の筋に沿って登場人物や
状況を組み立てる部分だけだが、3年後をめどにストーリーも創作させる計画という。
「ゆくゆくは芥川賞か直木賞を狙いたい。変わった小説、難解な作品が評価される芥川
賞の方がいけるんじゃないか」。口調は真剣そのものだ。

AIが人間の指示を受けずに創造的な活動をする世界。楽しみだが、不気味でもある
。米マイクロソフトがツイッターで対話するAIとして3月に公開した「Tay」は、
わずかな間に差別扇動表現を連発し始め、サービス停止に追い込まれた。あの騒動を嫌
でも思い出すからだ。

松原さんは、Tayの暴走は、悪意あるユーザーが差別発言を繰り返し、学習させた
のが原因とみる。「ネット言論が右翼化するモデルになるという研究者もいる。悪いデ
ータを入れれば悪くなる。人間に起きることはAIにも起きるだけのこと。子どもと同
じです」。AIは子どもだと思ってミスを許し、寛大に接すればいいのだろうか。

通路を行きかう、年齢も性別もさまざまな人物。空港などの公共空間を想定した防犯
カメラの映像だ。立ち止まったり、振り返ったりする若い女性には、英語で「落ち着き
がない」の表示が付いた。銀色のアタッシェケースを提げて歩いてきた男性が、床に置
いて立ち去ろうとすると、文字が「歩行中」から「物を置いた」に切り替わって警告す
る。NTTコミュニケーションズが開発した不審者検知システムだ。人間の動作を5種
類に分け、不審な動きをAIが検知する。担当者は「さらに学習データを増やし、計算
力が上がれば、人間には分からない不審な動きも見つけられるようになる。東京五輪に
向けてテロ警戒に生かせますよ」と胸を張った。年度内には実用化の予定という。

この不審者検知システムを含め、AI開発の話題の中心を占めるのは「深層学習」と
いう技術だ。人間の脳神経をモデルにした構造を持ち、与えられた大量のデータをAI
が学習して判断の精度を自ら高めていく。米グーグル傘下の企業が開発し、囲碁の世界
トップ級の韓国人プロ棋士を4勝1敗で降したAI「アルファ碁」にも、この技術が使
われている。

だが、深層学習の問題は、AIがなぜその判断に至ったのか、という検証が極めて困
難な点だ。アルファ碁の奇妙な指し手には、解説のプロ棋士たちもしばしば首をひねっ
たという。そんな「ブラックボックス」に、どこまで重要な決定を委ねていいのか。

「ゲームなら、結果的に勝った、あるいは負けたでもいいでしょうが、国家の財政が
かかった投資判断や人命を左右する決定で、『AIがなぜこうしたのかはわかりません
』では済まされません」

こう話すのは、「AIの衝撃??人工知能は人類の敵か」(講談社現代新書)の著者
で、KDDI総研リサーチフェローの小林雅一さんだ。「理由がわからずとも、結果的
にプラスになるならAIに任せる、という考え方も選択肢としてあり得ます。でもそれ
はAIを、人間を超えた存在、神のようなものとして認めることになります」

当然だが、AIは神ではない。予想外の間違いを犯すこともある。米ニューヨーク大
やグーグルなどの研究チームが一昨年発表した論文によると、大型車両や建造物の写真
に、人間の見た目には違いが分からない細工を加えたところ、AIは姿形の似ても似つ
かないダチョウだと誤認してしまったという。

小林さんは「AIは人間の目とは違う特徴によって判断している点をついた研究です
。AIによる自動運転が、交通事故を減らすことは間違いない。だが、悪意によるハッ
キング攻撃で、事故を意図的に起こさせることも考えられます」と警告する。AIを信
じて頼ると、人間にはあり得ない落とし穴に落ちるかもしれないのだ。

昨年12月、野村総研はオックスフォード大との共同研究で、日本の労働人口の49
%が今後10?20年で人工知能やロボットによって代替可能、との試算を発表した。
そんな時代になったら、人間は何をすればいいのだろうか。

前述の松原さんは「科学技術の進展で仕事内容が変わるのは、産業革命以来続いてき
たこと。AIやロボットが稼いで、人間は生活のための仕事をしないで済むようになる
」と、人類の明るい未来の姿を思い描く。

これに対し、AIによる東京大学入試突破を目標としたプロジェクトを率いる数学者
、新井紀子・国立情報学研究所教授は真っ向から反論する。「多くの工学者は、『この
仕事で生きていく』という道を突然断たれた人間の苦しみを理解していない。小説『怒
りの葡萄(ぶどう)』が書かれた背景を認識していないと思います」

ノーベル賞作家、スタインベックの代表作「怒りの葡萄」は、農業が機械化され、貧
しい小作が土地を追われた1930年代の米社会を描いた。<ああ! 人間、先へ先へ
と進まなきゃだめだ。いや、おれは通信教育を受けようかと思っているんだ。機械工学
だよ>。主人公に語りかけるトラック運転手の言葉が、世の中の変化に適応しようと模
索する姿を映し出す。

「当時は、機械化によって自分が仕事を失うとしても『子どもには教育を受けさせて
、その運命から逃れさせてやれる』と考えることができた。今は、どうすればAIに代
替されない仕事に就けるか、だれにもわからない。それが問題なんです」。著書「コン
ピュータが仕事を奪う」でこの問題を指摘した新井さんは、人間にしかできない分野に
ついての議論を脇に置いたままでAI開発が進んでいく現状を危惧する。

「ネットやクレジットカードの商品購入履歴をもとに、おすすめ商品が提示される。
何かを決定する時、判断の一部をコンピューターに委ねるのは当たり前になった。それ
を便利で効率的と感じる私たちは、昔には戻れません」

気づいたら、人生の大事なことはAIがほとんど決めていた??。それをAIに支配
される社会と言うなら、すでにその方向へ進み始めている。

http://mainichi.jp/articles/20160510/dde/012/040/003000c?fm=mnm

MLホームページ: http://www.freeml.com/uniting-peace

Advertisements