人工知能の怖さは予測精度にある今どきの人工知能(3/4 ページ)

» 2014年11月05日 07時00分 公開
[松尾豊, 塩野誠 ,Business Media 誠]

機械なら問題人物を「抹消」できる

塩野: 話は少し戻りますが、松尾先生がおっしゃるように、確かに人間の形をしていない精度が高いだけの箱のほうが怖いような気はしますね。

松尾: そうです。精度が高い箱を持つと、それだけでけっこう強いですよね。ビジネスなのか国家戦略なのかは別として、予測精度が高い箱は、極めて強力な武器になり得ます。その武器を誰がどのように開発して、社会でどう使われるかは非常に重要なところです。

塩野: 世界平和のためならいいですが、それがどこかの国や民族を滅ぼすためとかに使われると、まさに1980年代の映画「ウォー・ゲーム(※5)」の世界です。システムの暴走が止まらなくなってしまって、相手を全滅させるまでコンピューターがひたすら戦い続ける。

(※5)ウォー・ゲーム=1983年に公開された米国のSF映画。コンピューターネットワークが浸透しはじめた時代において、軍の中枢を担うシステムが1つの誤解、ミスから暴走し、現実に戦争の危機が迫る恐怖を描いた。作中では高校生のハッカーが活躍する。

松尾: そうした懸念はありますよね。これも映画にあった話ですが、ある人が犯罪を起こす確率が高いと分かったとき、どうすればいいのか。逮捕してしまうか、それとも罪を犯すまでは手を下してはいけないのか? ここは社会で合意をとっていくべきでしょう。

 機械の予測精度が上がって分かること、そして社会全体で考えなければならないことは、これからたくさん出てくると思います。

塩野: それは映画「マイノリティ・リポート(※6)」にありましたね。人間のいろいろなデータを見たら、この人は犯罪に走る確率が高いから、予防策としていまのうちに捕まえておこう、という話。

 実は米国のメンフィスでは、すでに警察にIBMの予測ソフト「ブルークラッシュ(※7)」が導入されています。将来的には人間の遺伝子を含むぼう大なデータを解析し、この遺伝子を持つ人は犯罪に走る可能性が高いと分かれば捕まえてしまえ、究極的にはこの遺伝子は世の中に生まれないようにしてしまえ、ということになってしまいますね。

(※6)マイノリティ・リポート=2002年に公開されたトム・クルーズ主演の米国のSF映画。原作はフィリップ・K・ディック。予知能力を持つ人物や犯罪予防局が、犯罪が発生する可能性を事前に察知し、犯人となる人物を逮捕してしまう。舞台は2054年のワシントン。
(※7)ブルークラッシュ=IBM社が開発した予測分析ソフト。導入されたメンフィス警察の管内では、犯罪発生が予測される地域に人員を重点配置することで、重大犯罪が30%、凶悪犯罪は15%減少したとする報告もある。

松尾: 実はビッグデータの世界では、それに近いことが起こりつつあります。「ブルークラッシュ」のようなシリアスな領域ではないのですが、例えば、インターネットを見ているこの人に対しては、もう少し広告を出せば買ってくれそうだから出そうと判断しています。購買や閲覧データの分析は、すでにある程度は行われていて、これをどこまでも追求していくと、売れる人にだけ広告を集中するようになるでしょう。受け取る側は、一度広告がきてしまった以上、よく分からないけど結局は買ってしまうことになるかもしれません。

 パーソナライズされた広告をどこまで出していいのか、出してはいけないのか。出すとしたら、遺伝子の情報まではいかないまでも、その人の個人的な情報をどこまで使っていいのか。ここはこれから詰めていかなければならない問題だと思います。

塩野: 確かに、Webでの行動を解析されている実感はあります。私もコンサルティングで化粧品のプロジェクトをやった時期、関連のサイトを見ていたら、自分が持っているありとあらゆるデバイスに化粧品の広告が出るようになりました。画面の横にいつも商品が並んでいるような状態です。20年前にはあまり考えられなかったことですよね。将来的には、遺伝子情報をもとに広告が出るかもしれません。

松尾: アド・テクノロジー(※8)の分野も変化が早いので、いまはたまたま間違ってクリックしても、その分野の広告が出続けますが、それが本当にユーザーの興味なのか、それともたまたまなのか、そこも見分けられるようになっていくでしょう。この方向の技術もどんどん進むはずです。

(※8)アド・テクノロジー=インターネットなどデジタルメディアで、広告を効率的に配信・流通させ、効果を上げるための技術の総称。個人の嗜好を分析した最適な広告選択から効果測定まで、広範な技術が含まれる。

塩野: なるほど。それもデータの解析ですね。グーグルとかが非常に強い部分だと思いますが、それは確率で判断するのでしょうか。例えば、化粧品のサイトをよく見ている人は、この分野にも関心があるはずという確率から推論するとか?

松尾: 基本はそうです。「こういうものを見る人なら、こういうものにも関心があるはず」の“こういうもの”は、追求する余地があって、例えば、同じような商品をクラスタリング(※9)して見たほうがいい、過去の購買履歴から判断したほうが確率は上がる。あるいは履歴を参照してコンテンツを出す際もアクセスごとに内容は変えたほうがいいとか、いろいろ組み合わせて、精度を上げていくわけです。

(※9)クラスタリング=顧客や商品などを特性と目的に応じて分類、集合化すること。clusterは「(ぶどうなどの)房、集団」の意味。

Copyright © ITmedia, Inc. All Rights Reserved.