テクノロジー

AI同士がネットワークでつながると、セキュリティとか大丈夫なの?

セキュリティのイメージ

AI(人工知能)の技術革新により、AI(人工知能)同士でネットワークを構築し、世の中がより便利なものとなってきています。一方で、AI(人工知能)同士のネットワーク構築に対するセキュリティ対策が十分になされているかは非常に気になるところですよね。

セキュリティの問題は、AI(人工知能)に始まったことではなく、ITの領域では従来からさまざまな問題が浮き彫りにされています。例えば、インターネット等に対するセキュリティ対策はこれまでも、そしてこれからも必要とされ、インターネットウィルスをはじめとしたマルウェアやトロイの木馬といった悪意ある攻撃に対して十分な対策を求められます。

そこで今回は、AI(人工知能)同士のネットワーク構築に伴うセキュリティの問題について解説していきます。まずは、AI(人工知能)同士がネットワークでつながることについて確認しましょう。

AI(人工知能)同士がネットワークでつながるメリット:生活が便利になる!

快適になるイメージネットワークでAI(人工知能)同士がつながると生活が豊かになるらしい、と漠然とした考えを持っていても、実際のところどんなメリットがあるのかイメージが湧かない部分もありますよね。AI(人工知能)同士のネットワーク化がもたらすセキュリティの問題について入る前に、まずはAI(人工知能)同士がつながるとどんなメリットがあるのか具体的に解説します。

例えば、医療の分野では、AI(人工知能)同士をネットワークで結ぶことで、これまで時間のかかっていた医師や病院間での医療情報の受け渡しが、適時適切なタイミングで行なわれより良い診察や治療が可能となります。また、患者の健康状態をモニタリングするようなAI(人工知能)によって、状態の変化に応じて病院や介護施設等にAI(人工知能)が制御する自動運転車が迅速に搬送するということが実現します。

このように、医療の世界でAI(人工知能)同士のネットワークが用いられると、救える命が増えるでしょう。

医療のイメージ

もっと身近な例では、私たちの位置情報や行動履歴を元に帰宅時間を予測し、それに合わせてエアコンを付けたり掃除ロボットの起動をしたりと、時間に合わせて家事を自動で行えるようになります。また、AI(人工知能)が入っている家電やロボットは、利用者の調子や行動履歴から現在最適な食事や嗜好を把握し献立を考え、冷蔵庫と相談して食材を発注し料理したりご飯を用意するといった活躍もしてくれます。

このように、AI(人工知能)同士のネットワークにより私たちの生活の質は向上するでしょう。

他にも災害や物流、教育、農業、金融など、AI(人工知能)同士のネットワークは様々な分野で活躍をみせています。世の中が便利になっていくことで、生活の質が向上したり余剰時間が増えたりするので、AI(人工知能)同士のネットワーク化は一見喜ばしいですよね。しかし、最初にも述べたように、AI(人工知能)同士がネットワークでつながっていくことはセキュリティの面で問題もあり、メリットばかりではありません。

AI(人工知能)同士がネットワークでつながるデメリット

では、AI(人工知能)同士がネットワークでつながるとどんなリスクがあるのでしょうか。順番に見ていきましょう。

AI(人工知能)を用いたシステムに意図しない動作をさせる攻撃をしてしまう

攻撃のイメージ一つは、AI(人工知能)を土台に構築されているシステムに対して、悪意のある動作をするような攻撃を外部から受けるリスクです。システムやネットワークのセキュリティの脆弱性を突いて、内部に侵入し、悪意を持って作られたAI(人工知能)を利用して異常な動きをさせることで、不利益を発生させたり、危険な状況を発生させたりします。

例えば、渋滞予測システムを搭載したAI(人工知能)同士のネットワークがあるとします。このシステムがハッキングを受け、正常な渋滞予測ができない、あるいはシステム自体が停止してしまい、交通システムに打撃を与える可能性は否定できません。

交通渋滞のイメージ

交通システムに問題が生じると、移動や物流に影響を及ぼし、人と会う予定をキャンセルせざるを得なかったり、コンビニの商品棚が空っぽになり買い物ができなかったりと、私たちの生活に悪影響を及ぼすでしょう。

意図しない動作は、生活への影響だけでなく、生命を脅かすこともあります。AI(人工知能)が搭載された軍事機器や軍事システムに対してハッキングが行なわれたとしたら、ミサイルが発射され、多くの人が犠牲になったり、戦争になったりするかもしれませんよね。この例は極端と感じる方もいらっしゃるでしょうが、それほどの危険性をAI(人工知能)同士のネットワークは持っているのです。

個人情報や機密情報の流出・漏洩という脅威がある

情報漏洩のイメージAI(人工知能)同士のネットワークのセキュリティで問題になるのは、予期せぬ動作だけではありません。AI(人工知能)同士がネットワークでつながることによる次のリスクとして、情報の流出・漏洩があります。

氏名や住所、性別、医療情報といった私たちの個人情報や極秘の機密情報の流出もセキュリティ上の問題です。先ほどと同様に、システムの脆弱性を突いてハッキングし、それを踏み台にしたり、直接ネットワークをハッキングしたりすることで情報が流出、漏洩する可能性があるのです。

特に医療分野では大量の個人情報が集められています。

医療分野のイメージ先ほど紹介したような医療情報の受け渡しに関するシステムに対してハッキングが行なわれると、患者の医療情報が筒抜けとなってしまいます。その結果、患っている病気に対する偏見から差別を受けたり、医師の配慮により内緒にされていた自分や家族の病気の今後の経過を知ってしまったりと、患者に不利益がもたらされる可能性があるのです。

他の例として、効率的な荷物の配送を行なうためのシステムがAI(人工知能)同士のネットワークで構築されているとします。このとき、システムには顧客の在宅・不在の情報や、生活習慣に関した情報が収集、利用されています。そのため、このシステムが何らかの脅威にさらされた時、これらの情報が流出することとなり、不在時を狙った空き巣に悪用されるなど犯罪に悪用され、顧客の生活が脅かされてしまうのです。

では、これらの脅威に対して、どのような対策が講じられているのでしょうか。

AI(人工知能)同士のネットワークのセキュリティはまだまだ発展途上

セキュリティのイメージこれらAI(人工知能)同士のネットワークへの脅威に対して、セキュリティ強化が課題です。AI開発原則の一つとして「セキュリティの原則」を総務省は掲げており、「AIシステムのセキュリティについて、あらかじめ検証及び妥当性の確認をするよう努めるとともに、開発の過程を通じて、採用する技術の特性に照らし可能な範囲で対策を講ずるよう努めることが望ましい(セキュリティ・バイ・デザイン)。」としています。別の意見では、AI(人工知能)同士のネットワークは国を超えて行なわれることもあり、国際的な議論が必要と主張されています。

脅威は様々な要素からもたらされますが、今後は悪意を持って開発されたAI(人工知能)によって発生することが増加すると言われています。AI(人工知能)からの攻撃にはAI(人工知能)で立ち向かうことが必要とされ、防御するAI(人工知能)の開発が、これからの課題です。悪意あるAI(人工知能)による脅威や不安を軽減するために、防御するAI(人工知能)の成長に期待したいですよね。

まとめ

セキュリティのイメージさて、今回はAI(人工知能)同士のネットワーク構築に伴うセキュリティの問題について解説しました。AI(人工知能)同士がネットワークを結ぶことは生活を便利で豊かにする一方で、セキュリティが破られると、システムに予期せぬ動作をもたらしたり、情報流出・漏洩をもたらしたりします。安全にネットワークを運用するためにも、より強い防御のAI(人工知能)の開発が待たれますよね。

AI(人工知能)はこれからますます技術革新がなされ、残念ながら同時にリスクも増えていきます。AI(人工知能)の活躍が当たり前となる未来が楽しみな反面、不安だな・・・、と感じる方もいらっしゃることでしょう。まだまだAI(人工知能)のセキュリティには不安な面があることも否定はできません。しかしAI(人工知能)が抱えるリスクを早期に発見し、排除してくれるように科学が成長することを期待しましょう!

<参考>
http://www.soumu.go.jp/main_content/000513631.pdf
http://www.soumu.go.jp/main_content/000425316.pdf
https://www.mizuho-ir.co.jp/publication/column/2018/0529.html
https://www.tasc.or.jp/educate/monthly/article_2/pdf/article_2_1808.pdf
https://www.tkc.jp/lg/kaze/201801tokusyu1

コメントをどうぞ

トップへ戻る
タイトルとURLをコピーしました